有効数字と測定値・実験値の表記について

実験結果の表記として

\begin{eqnarray*}
1.23 \pm 0.04 \ \ \mbox{or} \ \ 1.23(4)
\end{eqnarray*}

のように最確値(平均値)と誤差を表す場合と、

\begin{eqnarray*}
1.23
\end{eqnarray*}

のように誤差を表記しない場合があります。

誤差を$\pm 0.04$ の様に表記してないからと言って誤差が無い値な訳ではなく、
「最小桁に誤差を含んでいます」という意味になります。

とりあえず、値が知りたい場合と、
誤差まで細かく知りたい場合との違いで表記を変えたりします。

従って、測定値を表す場合には注意が必要になります。

例えば、何かの体積を測定したとしましょう。
測定では、それぞれの幅や高さを測定し、計算によって体積を求めたとします。

この時、計算した値が

\begin{eqnarray*}
V=25.97835 \cdots \ [\mbox{cm}^3]
\end{eqnarray*}

となったとしましょう。

電卓を叩いて求まった結果をそのままの実験値として
書いていいわけではありません。
電卓は単に計算しただけで、「どの位まで意味がある値であるか」については
考慮してくれません。

自分で考える必要があります。

もし

\begin{eqnarray*}
V=25.98 \ [\mbox{cm}^3]
\end{eqnarray*}

と表記したら、この値を見た人は、
小数第3位を誤差処理(四捨五入)してあると考えます。
さらに

\begin{eqnarray*}
25.975 \leqq V \leqq 25.984　\ [\mbox{cm}^3]
\end{eqnarray*}

の範囲に$V$があるとみなします。

従って、小数第2位に誤差を含んでいると読みとります。

これを、

\begin{eqnarray*}
V=26.0 \ [\mbox{cm}^3]
\end{eqnarray*}

と表記した場合は、小数第2位を四捨五入してあり、
最後の桁、小数第1位に誤差を含んだ値であると読み取ります。

よって、表記する桁によって測定の精度が変わってくることになります。
自分の実験精度に合った結果になるように値を表記する場合には
注意が必要になります。

表記してある数値の桁は無意味に書かれている訳ではなく、
その測定の精度や有効数字に合った桁が表記されているのです。

皆さんがレポートを書く場合でも、意味のある値の表記を心がけましょう。