実験レポートの書き方

有効数字

測定値を読み取るルール

実験には測定が伴う。例えば以下のケースがある。
・テスターで電圧を測定する。
・メスシリンダーで溶液の体積を測定する。
・温度計で温度を測定する。

このような測定では、必ず目盛りを読んで測定値を知る。
ここで、問題が生じる。
テスターの針や、メスシリンダー内の水面等は、目盛りと目盛りの間になる場合が多いということだ。(下図)

そこで測定値を読み取るときに「最小目盛りの1/10の値を目分量で読む」というルールを設ける。
例えば次の図のようになる。

もし最小目盛りが0.1Vであれば0.01Vまで、0. 01Vであれば0. 001Vまで読み取ることになる。
つまり、計測器の最小目盛りの精度が上がるほど、より精密な測定が可能になるということだ。

このルールを適用すると、目盛りをズバリ指している場合も、1/10の値まで読み取る必要がある。

この例では、2.4をズバリ指しているからと言って、「2.4」と読んではいけない。
1/10の値まで読むので「2.40」と読み取る。

このようにして読んだ「最小目盛りの1/10までの値」を「有効数字」という。

ここで注意を要する。
どんなに高精度の計測器を使用しても、真の値をズバリ読み取ることはできない。
無限に細かい目盛りは存在しないからだ。
だから「真の値は、最小目盛りの1/10の値の付近にいるはずだ」としか言えないのだ。
計測は真の値を読んでいるのではないのだ。

測定値をどの桁まで信用するか

「有効数字」の最小桁は、目分量で読み取られた数値である。
従って、有効数字は「常に最小桁に不確かさが付きまとう数値」と認識しておく必要がある。
「有効」という言葉から、「有効数字は全桁が正確」といった印象を持つ人がいるが、それは誤りである。
最小目盛りの1/10の範囲で不確かさが含まれた数字なのだ。

繰り返すが、測定で真の値を知ることはできない。
しかし、目分量での読み取りが適切に行われていれば、真の値は最小目盛りの1/10の幅に入っていることになる。
例えば、有効数字が「67.4」であったとする。最小桁の「4」は目分量で得た値だ。
目分量の幅は1/10なので、真の値は67.35〜67.45の範囲に入っているはずだ。

有効数字が「67.4」であるということは、「67.35〜67.45の範囲」を代表して「67.4」と表現しているに過ぎない。

有効数字が決まれば、自然と「真の値はこの中に入っていますよ」という範囲が決まるのだ。
有効数字を見ることによって、値だけでなく、その値をどこまで信じていいのかが歴然とする。真の値の範囲が分かるからだ。

計測するときは、「真の値」を読んでいるのではなく、「真の値がいるはずの範囲」を読んでいるという事実を意識しなくてはならない。

有効数字は単なる測定値ではなく、「どこまで信じていいのか」という範囲も含まれた表現なのだ。
測定中や、レポート制作中は、特に有効数字の意味を忘れてはならない。

デジタル計測器の有効数字

今までは、主にテスターやメスシリンダーなどアナログの計測器を題材にしたが、測定値がそのまま表示されるデジタルテスターにも有効数字は適用される。
ただし、デジタルテスターには目分量がない。
デジタルテスターは表示全体が有効数字と見なしてよいだろう。
無論、本体や取扱説明書を読んで有効数字が何桁であるは把握する必要がある。
後述するが、有効数字に桁数が不明だと、測定値の計算処理ができない。

読み取り時の注意

目盛りを読む視点によって、読み取り値が異なってくる。これを視差という。
視差が生じないように読み取らなくてはならない。

視差なく正しく読み取るためには、目盛りに対して真正面から針を見る必要がある。

目盛り面に鏡があるメーターがある。このようなメーターでは、実物の針と鏡に写った針が重なるように読み取ると視差が生じない。
鏡が変形しているたり、曇っていると、読み取りの誤差になるのでこのようなメーターは使用できない。

また、計測器が熱的に安定していない場合は、ゼロ点が揺れる場合がある。
これをドリフトという。
ドリフトが生じるとデータの再現性が低下する。ドリフトがなく安定した状態で測定しなくてはならない。

視差やドリフトに注意しないと、測定値の不確かさが有効数字に収まらない。
視差やドリフトは測定値の信頼性に大きく影響を与えるので実験中は特に関心を持たねばならない事項だ。
言い換えると、これらが考察ネタになる。
測定誤差の要因として、ミラーの変形や曇りを列挙し、以下のように考察にすることができる。当然コピペはしてはいけない。

測定結果に誤差が無かった場合の論	測定結果に誤差が生じた場合の論
ミラーの変形や曇りが無いことを事前に確認し、視差が生じないようにしたため、誤差を押さえこめた。 今後の実験もこのような対処を確実に実施したい。	ミラーの変形や曇りが無いことを事前に確認できなかった。 このため視差によって誤差が生じたと考えられる。 今後の実験への対策として、このような対処を確実に実施すべきと考える。

同時に「レポートの記載項目の説明＞考察」も参照して欲しい。
くどいが、コピペは厳禁である。

有効数字の取扱いの注意

末尾のゼロ

「34.6」と「34.60」は同一の値ではない。
信じていい範囲(真の値が含まれている範囲)が異なるからだ。
念のために比べてみよう。

有効数字	34.6	34.60
有効数字の桁数	3桁	4桁
信じていい範囲	34.55〜34.65	34.595〜34.605
範囲の幅	0.1 (34.65-34.55=0.1)	0.01 (34.595-34.605=0.01)

小学校の算数で「34.60は34.6と書く」と習うが、これはあくまで数値としての話である。
計測の世界では、末尾のゼロを勝手に付けたり取ったりしてはならないのだ。
「真の値は34.55〜34.65の範囲」と言う代わりに「34.6」と表現するのだ。

末尾のゼロを勝手につけたり、外したりしてはならない。

先頭のゼロ

「3.46g」と「0.00346kg」は同一である。

有効数字	3.46g	0.00346kg=3.46g
有効数字の桁数	3桁	3桁
信じていい範囲	3.455g〜3.465g	3.455g〜3.465g
範囲の幅	0.01g(3.465-3.455=0.01)	0.01g(3.465-3.455=0.01)

範囲の幅に違いはない。
だから、両者の精度は同一なのだ。
位取りのために、先頭のゼロをつけたり、外したりしても有効数字に影響しない。

指数表記

「3.46g」は、有効数字３桁である。 単位をグラム(g)からmgに換算する。

有効数字	3.46g	3460mg	3.46×103mg
有効数字の桁数	3桁	4桁	3桁
信じていい範囲	3.455g〜3.465g	3459.5mg〜3460.5mg	3.455g〜3.465g
範囲の幅	0.01g (3.465 - 3.455=0.01)	1mg (3460.5 - 3459.5=1)	0.01g (3.465 - 3.455=0.01)

「3460mg」にすると、末尾のゼロを付加することになり有効数字が変わってしまう。
「3.46×103 mg」のように、桁数を合わせて指数表記にすれば、有効数字は変わらない。
単位を変換する場合は、有効数字の桁数を変えてはならない。

有効数字の計算処理

計算の基本は加減乗除である。
加減乗除によって、和差積商が得られる。
加減乗除を経ることによって、有効数字の桁数が変化する。
つまり「真の値が含まれる範囲」が広がるのだ。これは数値の精度が低下することを意味する。

ここを意識して適切な処置をしないと、計算値はあっていても、「真の値が含まれる範囲」が違ってきてしまう。
これでは正しいデータ解析とは言えない。

ここでは和差積商を求める場合の有効数字の扱いについて解説する。

和の場合

123.12345gの溶液に、45.3gの同種の液体を加えるとする。
この場合は精度の悪い方の有効数字に合わせて計算する。
精度の良い値と、精度の低い値を合計したら、答えは精度が低い方に埋もれてしまうからだ。

正誤	計算式	解説
×：誤	123.12345+45.3=168.42345	計算後に精度が高くなることはあり得ない。
○：正	123.12345+45.3=168.4	精度が低い数値が全体の精度を決める。

有効数字よりも細かな数字は、無駄なので、有効数字の桁数に丸めなくてはならない。

差の場合

245.56789gの溶液から、32.4gを取り去るとする。
この場合は精度の悪い方の有効数字に合わせて計算する。
精度の良い値と、精度の低い値を合計したら、答えは精度が低い方に埋もれてしまうからだ。

正誤	計算式	解説
×：誤	245.56789-32.4=213.16789	計算後に精度が高くなることはあり得ない。
○：正	245.56789-32.4=213.2	精度が低い数値が全体の精度を決める。

有効数字よりも細かな数字は、無駄なので、有効数字の桁数に丸めなくてはならない。

数値の丸め方

「丸め」とは、長い桁数を有効数字n桁にするときの計算処置のことをいう。
「丸め」は、n+1桁目が４以下の場合、6以上の場合は、「四捨五入」と同等の処置をする。
しかし、n+1桁目が5の場合は、「四捨五入」とは異なる特殊な処置を必要とする。
5での「切り上げ」・「切り捨て」の確率を均等にして、平均誤差を小さくすることが狙いである。

ケース		処置	例
n+1桁目が4以下の場合		n+1桁目を切捨て
n+1桁目が6以上の場合		n+1桁目を切り上げ
n+1桁目が5の場合	n桁目が奇数の場合	n+1桁目を切り上げてn桁目を偶数にする
	n桁目が偶数の場合	n+1桁目を切捨て

このような「丸め」は、JIS Z 8401に準拠している。

まとめ

有効数字を意識する場面をまとめてみよう。

場面	注意点	参照
実験中	最小目盛りの1/10まで読み取る。 デジタル式の測定器は有効数字を確認しておく。 有効数字でノートに記録する。
計算中	計算による精度の変化を把握する。
レポート執筆	有効数字の桁数を確定し、数値を丸める。
全体を通して	読み取った値は、真の値ではなく「真の値を含む範囲を代表した値」であることを意識する。

2005/09/26

前ページ	このページの先頭	次ページ
物理の基礎基本・試験対策・レポート対策
物理学解体新書・HOME