有効数字

　有効数字どうしの計算の規則は２つあります．
１）　加減算のときはいちばん粗い精度となる桁（小数桁数の最も少ないデータ）に揃えます．
２）　乗除算のときは有効数字のいちばん少ないデータに有効数字を合わせます．
なおこの規則より厳密な方法もあるが煩雑なのでこちらを見てください．

　確実な数字とさらにいくぶん不確実な数字をその下に一桁付け加えて，それらの数字を有効数字と呼びます．たとえば1mm目盛りの物差しで長さを測ると，最小目盛りの10分の1まで測定できます．10.5mmというように測定できます．この場合，最後の桁の数字である5にはいくらか不確実です．有効数字で測定値を示したとき，身長160cm，160.0cm，160.00cmはそれぞれ同じ正確さではありません．160cmよりも160.00cmの方がより正確であると考えます．160cmという表記では159.5～160.5までの範囲あるいはもっとそれより大きい範囲内であることを示しますが，160.00cmならばそれよりずっと狭い範囲内であることを示します．

　なおデータは必要に応じて有効数字で示されたものよりも丸めてもかまいません．例えば，1万世帯の子供数を調べたら，2.3448というように表記できますが，実際問題として世界各国の子供の数を比較するなら小数第１位までで十分でしょうし，日本のここ数十年の子供の数の変動でも小数第2位までで十分でしょう．有効数字以上にデータを記述しても無意味ですが，それより桁数を必要に応じて四捨五入によって減らすのはかまいません．

下の図を見てください．緑の棒の長さを物差しで測ります．目盛りはmm単位までありますので，その10分の1まで目分量で読み取ります．すると16.7cmまでは確実ですが，最後の10分の1mmの位の数字は1か2か迷うところです．このとき16.72cmあるいは16.71cmという結果を得ると，最初の三つの数字1,6,7は確実な数字，最後の数字2あるいは1はいくぶん不確実な数字です．この四つの数字を有効数字といいます．

　そういうことをいうとだったら16.7cmでやめれば3つとも確実な数字だから問題ないというかもしれません．しかし，16.7cmとしか示さないと16.74cmでも16.67cmでも四捨五入すれば16.7cmになりますから，16.72cmと書くより，不正確にしか緑の棒の長さを示したことになりません．　データを取るときにはかならず有効数字に注意してデータをとるべきです．

　なお人数のような離散データの平均ではデータより多く桁を取る方がよい場合もあります．子供の数は整数で示されますが，ある都市の世帯平均の子供の数を3.56人と表記するのは問題はありません．子供1人という場合，小数第１位以下が不確実な数字ではなく，1.000…と見なせるからです．しかし，3世帯からしか調べなかったら，小数第１位までしか表記してはいけません．1.666…という割り切れない数字が得られても1.7としましょう．なぜなら，3世帯のデータで子供1人が増減すると，0.333…だけ数値が増減します．このことから小数第２位以下の数字は意味がないことがわかります．

　ここでは平均や標準偏差を計算するので，有効数字はいちばん小数桁数の少ないデータの位に合わせます．小数第１位のデータについて平均を出すときは小数第２位を四捨五入し，小数第１位までを最終的に表記します．分散は有効数字の個数を合わせるといいでしょう．

　ただし途中の計算ではできるだけ多くの桁数までとり（パソコン上の計算では何もしなければいいです），最後に四捨五入しましょう．エクセルで何段回かにかけて計算するときは参照座標を使って，途中の結果を四捨五入しないで代入しましょう．そうしないと丸めた誤差が大きくなり，ときには予想しないくらいに違う結果を得ることがあります．