측정: 두 판 사이의 차이

== 측정의 오차 ==

=== 정도와 오차 ===

가령 둥근 직경 40.00㎜를 목표로 하여 원통이 되게끔 가공했다고 하자. 그런데 가공 후에 원통의 중앙에서 직경을 재었더니 40.05㎜였다면 목표 수치 40.00㎜와는 0.05㎜ 차이가 난다. 실제 측정한 값, 즉 측정치와 목표치와의 차를 '오차'라 한다. 이 오차에는 측정의 오차와 가공의 오차가 포함되어 있다. 가령 눈금이 0.01㎜마다에 매겨진 정확한 측정기가 있다면, 눈금과 눈금 사이는 목측(目測)으로 절반 이상을 절상하고 절반 이하는 잘라 버리며 읽으니 40.05㎜로 읽은 수치는 사실 40.04500…㎜보다 크고 40.05049…㎜보다 작다고 하는 것을 보여 주고 있을 뿐으로서, 0.01㎜ 폭의 애매성을 포함하고 있는 것이다. 실제 값(참된 값이라고 한다)은 완전한 측정기가 없는 한 알 수가 없지만 측정의 오차는 절상, 또는 잘라 버린 반 눈금인 0.005㎜보다 작은 것은 확실하다. 그뿐 아니라 측정기의 눈금은 인간이 가공해서 만든 것이므로 여기에 가공의 오차가 가산된다. 그 오차는 일반적으로 한 눈금의 절반 이하인데, 이것을 가미하면 측정오차는 0.01㎜를 넘지 않는 정도가 되며 참값은 40.040㎜에서 40.0599…㎜ 사이에 존재하게 된다. 참값은 분명치 않지만 가령 40.046㎜였다고 가정하면 목표치로부터의 편차 0.046㎜는 가공의 오차라고 할 수 있다.