(注:通常、基準値の扱いは厳密だが、数値としての有効数字は末尾の桁まで意味を持つ。0.05なら有効数字1桁とみなすが、測定精度はそれ以上を要求される)。問題として少し不適切かもしれないが、測定値の処理としては「指示された桁数の一つ下まで読み取り…」等のルールがある。設問変更:測定値の端数処理方法。
(注:通常、基準値の扱いは厳密だが、数値としての有効数字は末尾の桁まで意味を持つ。0.05なら有効数字1桁とみなすが、測定精度はそれ以上を要求される)。問題として少し不適切かもしれないが、測定値の処理としては「指示された桁数の一つ下まで読み取り…」等のルールがある。設問変更:測定値の端数処理方法。