桁落ちの説明として,適切なものはどれか。
値がほぼ等しい浮動小数点数同士の減算において,有効桁数が大幅に減ってしまうことである。
演算結果が,扱える数値の最大値を超えることによって生じるエラーのことである。
浮動小数点数の演算結果について,最小の桁よりも小さい部分の四捨五入,切上げ又は切捨てを行うことによって生じる誤差のことである。
浮動小数点数の加算において,一方の数値の下位の桁が結果に反映されないことである。
正解は「ア」です。
桁落ちとは,絶対値がほぼ等しい二つの浮動小数点数を減算したとき,上位のけた同士が打ち消し合って結果が小さくなり,その分だけ有効桁数が大幅に減少する現象です。
本文が同じ・似ている問題を表示しています