数値を有効数字 n 桁に丸めて、通常表記・指数表記・工学表記で出します。入力した値の有効数字の数え方と、2つの数を計算したときの桁のそろえ方も確認できます。
有効数字の数え方:先頭の0(0.0012 の「0.00」)は位取りなので数えません。0以外の数字の間の0(1.05 の0)は数えます。小数点より右の末尾の0(1.20 の0)は数えます。小数点のない整数の末尾の0(1200 の「00」)は、測った精度なのか位取りなのか区別できないため「あいまい」です。はっきりさせたいときは 1.2×10³(2桁)や 1.200×10³(4桁)のように指数表記で書きます。
丸め方:JIS Z 8401(数値の丸め方)では、ちょうど中間(…5000…)のときに偶数側へ丸める規則Aと、大きいほうへ丸める規則B(いわゆる四捨五入)があります。どちらを使うかは授業・規格・提出先の指示に従ってください。負の数は絶対値で丸めます。
計算のルール(一般的な目安):掛け算・割り算は、有効数字の桁数がいちばん少ない数に合わせます。足し算・引き算は、末尾の位がいちばん粗い数(小数点以下の桁がいちばん少ない数)に合わせます。あいまいな末尾の0は数えない側で扱います。計算の途中では丸めず、最後に1回だけ丸めます。
数値は文字列として1桁ずつ処理するため、0.1+0.2 のような浮動小数点の誤差は出ません(割り算は十分な桁まで計算してから丸めます)。計算はブラウザ内だけで行います。
数値を有効数字 n 桁に四捨五入または偶数丸めして、通常表記・指数表記・工学表記・E表記で表示します。入力した値の有効数字の数え方や、2つの数を計算したときに答えを何桁にそろえるかも確認できます。実験レポートや理系の課題で桁をそろえるときに使えます。
3桁です。先頭の「0.00」は位取りなので数えず、「120」の最後の0は小数点より右にあるので数えます。「数値」欄に入れると、桁の内訳が色分けで表示されます。
違いが出るのは、切り捨てる部分がちょうど5(…5000…)のときだけです。例えば 2.345 を3桁にすると、四捨五入は 2.35、偶数丸めは 2.34 になります。「2.345」の例ボタンを押して丸め方を切り替えると確かめられます。
書き方だけでは決められません。測った値なら4桁、位取りの0なら2桁です。はっきりさせたいときは 1.2×10³(2桁)や 1.200×10³(4桁)のように指数表記で書きます。このツールでは「2〜4桁」と表示します。
一般には、かけた数のうち有効数字の桁数がいちばん少ないものに合わせます。2.5 × 3.42 なら2.5が2桁なので、8.55 を2桁に丸めて 8.6 です。「2つの数を計算して丸める」で、使ったルールと一緒に確認できます。