有効数字

有効数字の考え方

ここでは、有効数字の考え方を解説しよう。

小学校の算数では、「2.50」は末尾の「0」を取り去って「2.5」と書くように教えている。
「2.50」も「2.5」も同じだから末尾の「0」はいらないのだ。

しかし、有効数字では「2.50」と「2.5」は違うものと考える。
有効数字を理解するためには、まず小学校の算数を忘れる必要がある。

有効数字とは

有効数字とは、計測器で測った値をどの桁まで信じるかを表す数字である。
測定値を読み取るときに「最小目盛りの1/10の値を目分量で読む」というルールがある。
このルールに従って読み取った値が有効数字だ。

有効数字は、最小桁に1/10の不確かさが付きまとう数値なのである。
ここでは、なぜ有効数字が使われるのか、有効数字の考えたかについて根本から解説する。

測定値を読み取るルール

実験には測定が伴う。例えば以下のケースがある。
・テスターで電圧を測定する。
・メスシリンダーで溶液の体積を測定する。
・温度計で温度を測定する。

このような測定では、必ず目盛りを読んで測定値を知る。
ここで、問題が生じる。
テスターの針や、メスシリンダー内の水面等は、目盛りと目盛りの間になる場合が多いということだ。(下図)

そこで測定値を読み取るときに「最小目盛りの1/10の値を目分量で読む」というルールを設ける。
例えば次の図のようになる。

もし最小目盛りが0.1Vであれば0.01Vまで、0. 01Vであれば0. 001Vまで読み取ることになる。
つまり、計測器の最小目盛りの精度が上がるほど、より精密な測定が可能になるということだ。

このルールを適用すると、目盛りをズバリ指している場合も、1/10の値まで読み取る必要がある。

この例では、2.4をズバリ指しているからと言って、「2.4」と読んではいけない。
1/10の値まで読むので「2.40」と読み取る。

このようにして読んだ「最小目盛りの1/10までの値」を有効数字という。

ここで注意を要する。
どんなに高精度の計測器を使用しても、真の値をズバリ読み取ることはできない。
無限に細かい目盛りは存在しないからだ。
だから「真の値は、最小目盛りの1/10の値の付近にいるはずだ」としか言えないのだ。
計測は真の値を読んでいるのではないのだ。

測定値をどの桁まで信用するか

有効数字の最小桁は、目分量で読み取られた数値である。
従って、有効数字は「常に最小桁に不確かさが付きまとう数値」と認識しておく必要がある。
「有効」という言葉から、「有効数字は全桁が正確」といった印象を持つ人がいるが、それは誤りである。
有効数字は、最小目盛りの1/10の範囲で不確かさが含まれた数字なのだ。

繰り返すが、測定で真の値を知ることはできない。
しかし、目分量での読み取りが適切に行われていれば、真の値は最小目盛りの1/10の幅に入っていることになる。
例えば、有効数字が「67.4」であったとする。最小桁の「4」は目分量で得た値だ。
目分量の幅は1/10なので、真の値は67.35〜67.45の範囲に入っているはずだ。

有効数字が「67.4」であるということは、「67.35〜67.45の範囲」を代表して「67.4」と表現しているに過ぎない。

有効数字が決まれば、自然と「真の値はこの中に入っていますよ」という範囲が決まるのだ。
有効数字を見ることによって、値だけでなく、その値をどこまで信じていいのかが歴然とする。真の値の範囲が分かるからだ。

計測するときは、「真の値」を読んでいるのではなく、「真の値がいるはずの範囲」を読んでいるという事実を意識しなくてはならない。

有効数字は単なる測定値ではなく、「どこまで信じていいのか」という範囲も含まれた表現なのだ。
測定中や、レポート制作中は、特に有効数字の意味を忘れてはならない。

有効数字の読み取り時の注意

デジタル計測器の有効数字

今までは、主にテスターやメスシリンダーなどアナログの計測器を題材にしたが、測定値がそのまま表示されるデジタルテスターにも有効数字は適用される。
ただし、デジタルテスターには目分量がない。

デジタルテスターは表示全体が有効数字と見なしてよいだろう。
無論、本体や取扱説明書を読んで有効数字が何桁であるは把握する必要がある。
後述するが、有効数字に桁数が不明だと、測定値の計算処理ができない。

読み取り時の注意

目盛りを読む視点によって、読み取り値が異なってくる。これを視差という。
視差が生じないように読み取らなくてはならない。

視差なく正しく読み取るためには、目盛りに対して真正面から針を見る必要がある。

目盛り面に鏡があるメーターがある。このようなメーターでは、実物の針と鏡に写った針が重なるように読み取ると視差が生じない。
鏡が変形しているたり、曇っていると、読み取りの誤差になるのでこのようなメーターは使用できない。

また、計測器が熱的に安定していない場合は、ゼロ点が揺れる場合がある。
これをドリフトという。
ドリフトが生じるとデータの再現性が低下する。ドリフトがなく安定した状態で測定しなくてはならない。

視差やドリフトに注意しないと、測定値の不確かさが有効数字に収まらない。
視差やドリフトは測定値の信頼性に大きく影響を与えるので実験中は特に関心を持たねばならない事項だ。
言い換えると、これらが考察ネタになる。
測定誤差の要因として、ミラーの変形や曇りを列挙し、以下のように考察にすることができる。当然コピペはしてはいけない。

測定結果に誤差が無かった場合の論	測定結果に誤差が生じた場合の論
ミラーの変形や曇りが無いことを事前に確認し、視差が生じないようにしたため、誤差を押さえこめた。 今後の実験もこのような対処を確実に実施したい。	ミラーの変形や曇りが無いことを事前に確認できなかった。 このため視差によって誤差が生じたと考えられる。 今後の実験への対策として、このような対処を確実に実施すべきと考える。

同時に「レポートの記載項目の説明＞考察」も参照して欲しい。
くどいが、コピペは厳禁である。

有効数字の取扱いの注意

末尾のゼロ

「34.6」と「34.60」は同一の値ではない。
信じていい範囲(真の値が含まれている範囲)が異なるからだ。
念のために比べてみよう。

有効数字	34.6	34.60
有効数字の桁数	3桁	4桁
信じていい範囲	34.55〜34.65	34.595〜34.605
範囲の幅	0.1 (34.65-34.55=0.1)	0.01 (34.595-34.605=0.01)

小学校の算数で「34.60は34.6と書く」と習うが、これはあくまで数値としての話である。
計測の世界では、末尾のゼロを勝手に付けたり取ったりしてはならないのだ。
「真の値は34.55〜34.65の範囲」と言う代わりに「34.6」と表現するのだ。

末尾のゼロを勝手につけたり、外したりしてはならない。

先頭のゼロ

「3.46g」と「0.00346kg」は同一である。

有効数字	3.46g	0.00346kg=3.46g
有効数字の桁数	3桁	3桁
信じていい範囲	3.455g〜3.465g	3.455g〜3.465g
範囲の幅	0.01g(3.465-3.455=0.01)	0.01g(3.465-3.455=0.01)

範囲の幅に違いはない。
だから、両者の精度は同一なのだ。
位取りのために、先頭のゼロをつけたり、外したりしても有効数字に影響しない。

指数表記

「3.46g」は、有効数字３桁である。
単位をグラム(g)からmgに換算する。

有効数字	3.46g	3460mg	3.46×103mg
有効数字の桁数	3桁	4桁	3桁
信じていい範囲	3.455g〜3.465g	3459.5mg〜3460.5mg	3.455g〜3.465g
範囲の幅	0.01g (3.465 - 3.455=0.01)	1mg (3460.5 - 3459.5=1)	0.01g (3.465 - 3.455=0.01)

「3460mg」にすると、末尾のゼロを付加することになり有効数字が変わってしまう。
「3.46×103 mg」のように、桁数を合わせて指数表記にすれば、有効数字は変わらない。
単位を変換する場合は、有効数字の桁数を変えてはならない。

次のページでは、有効数字の扱いや計算処理について解説しよう。

関連ページ：このページを見た人は次の記事も読んでます。
考察の書き方
最小二乗法
レポートの記載項目の説明
質量と重量の違い
慣性モーメント

スポンサーリンク

---

その他の人気コンテンツ

■慣性モーメント	■考察の書き方	■質量と重量の違い
■カルノーサイクル	■セ氏温度とカ氏温度	■仕事と仕事率
■万有引力の法則	■静電容量	■運動の例

2005/09/26
2009/12/16

前ページ	このページの先頭	次ページ
物理の基礎基本・試験対策・レポート対策
物理学解体新書・HOME