物理学解体新書

有効数字

HOME実験レポートの書き方データ処理の知識>有効数字

有効数字の取扱いの注意

末尾のゼロ

「34.6」と「34.60」は同一の値ではない。
信じていい範囲(真の値が含まれている範囲)が異なるからだ。
念のために比べてみよう。

有効数字34.634.60
有効数字の桁数3桁4桁
信じていい範囲34.55〜34.6534.595〜34.605
範囲の幅0.1
(34.65-34.55=0.1)
0.01
(34.595-34.605=0.01)


小学校の算数で「34.60は34.6と書く」と習うが、これはあくまで数値としての話である。
計測の世界では、末尾のゼロを勝手に付けたり取ったりしてはならないのだ。
「真の値は34.55〜34.65の範囲」と言う代わりに「34.6」と表現するのだ。


末尾のゼロを勝手につけたり、外したりしてはならない。



先頭のゼロ

「3.46g」と「0.00346kg」は同一である。

有効数字3.46g0.00346kg=3.46g
有効数字の桁数3桁3桁
信じていい範囲3.455g〜3.465g3.455g〜3.465g
範囲の幅0.01g(3.465-3.455=0.01)0.01g(3.465-3.455=0.01)



範囲の幅に違いはない。
だから、両者の精度は同一なのだ。
位取りのために、先頭のゼロをつけたり、外したりしても有効数字に影響しない。




指数表記

「3.46g」は、有効数字3桁である。
単位をグラム(g)からmgに換算する。

有効数字3.46g3460mg3.46×103mg
有効数字の桁数3桁4桁3桁
信じていい範囲3.455g〜3.465g3459.5mg〜3460.5mg3.455g〜3.465g
範囲の幅0.01g
(3.465 - 3.455=0.01)
1mg
(3460.5 - 3459.5=1)
0.01g
(3.465 - 3.455=0.01)


「3460mg」にすると、末尾のゼロを付加することになり有効数字が変わってしまう。
「3.46×103 mg」のように、桁数を合わせて指数表記にすれば、有効数字は変わらない。
単位を変換する場合は、有効数字の桁数を変えてはならない。

有効数字



次のページでは、有効数字の扱いや計算処理について解説しよう。

■次のページ:有効数字の計算処理

このページのTOPへ



スポンサーリンク

2005/09/26
2009/12/16



スポンサーリンク

Amazon.co.jpアソシエイト



スポンサーリンク

Amazon.co.jpアソシエイト