浮動小数点形式で表現される数値の演算において,有効桁数が大きく減少するものはどれか。
絶対値がほぼ等しく,同符号である数値の加算
絶対値がほぼ等しく,同符号である数値の減算
絶対値の大きな数と絶対値の小さな数の加算
絶対値の大きな数と絶対値の小さな数の減算
正解は「イ」です。
浮動小数点形式では,仮数部のけた数(有効桁数)に限りがあります。絶対値がほぼ等しい二つの数を減算すると,上位のけたが打ち消し合って差が小さくなり,結果を正規化する際に下位のけたが失われて有効桁数が大きく減少します。この現象を桁落ちといいます。したがって「イ」が正解です。
本文が同じ・似ている問題を表示しています