桁落ちの説明として,適切なものはどれか。
値がほぼ等しい浮動小数点数同士の減算において,有効桁数が大幅に減ってしまうことである。
演算結果が,扱える数値の最大値を超えることによって生じるエラーのことである。
浮動小数点数の演算結果について,最小の桁よりも小さい部分の四捨五入,切上げ又は切捨てを行うことによって生じる誤差のことである。
浮動小数点数の加算において,一方の数値の下位の桁が結果に反映されないことである。
正解は「ア」です。
桁落ち(けたおち)とは,値がほぼ等しい二つの浮動小数点数を減算したときに,上位のけたが打ち消し合って有効桁数が大幅に減少する現象です。例えば 1.234567−1.2345661.234567 - 1.2345661.234567−1.234566 を有効桁数の限られた浮動小数点で計算すると,差は 0.0000010.0000010.000001 となり,意味のある桁数が大きく失われます。
本文が同じ・似ている問題を表示しています