浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。
演算結果がコンピュータの扱える最大値を超えることによって生じる誤差である。
数表現のけた数に限度があるので,最下位けたより小さい部分について四捨五入や切上げ,切捨てを行うことによって生じる誤差である。
乗除算において,指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差である。
絶対値がほぼ等しい数値の加減算において,上位の有効数字が失われることによって生じる誤差である。
正解は「イ」である。
コンピュータが扱える浮動小数点数のけた数(仮数部のビット数)には限度がある。そのため,演算結果がそのけた数に収まらないとき,最下位けたより小さい部分を四捨五入・切上げ・切捨てなどによって丸める。このときに生じる誤差が丸め誤差である。
本文が同じ・似ている問題を表示しています