浮動小数点形式で表現される数値の演算において,有効桁数が大きく減少するものはどれか。
絶対値がほぼ等しく,同符号である数値の加算
絶対値がほぼ等しく,同符号である数値の減算
絶対値の大きな数と絶対値の小さな数の加算
絶対値の大きな数と絶対値の小さな数の減算
正解は「イ」です。
絶対値がほぼ等しい二つの数値の減算を行うと,上位のけたが打ち消し合って結果が小さくなり,その分だけ有効桁数が大きく減少します。この現象を桁落ちといいます。
本文が同じ・似ている問題を表示しています