丸め誤差 | ASAHIネット

丸め誤差に関するインターネット検索結果

誤差 - Wikipedia

丸め誤差. 数値を、どこかの桁で端数処理（切り上げ・切り捨て・四捨五入・五捨六入・ 丸めなど）をしたときに生じる誤差. [編集.

丸め誤差とは - 意味/解説/説明/定義 ： IT用語辞典

丸め誤差とは：小数点以下の極めて小さい単位で値を丸めて計算した結果、計算結果と正しい値がわずかにずれる現象のこと。10進数で正確に表せる小数でも2進数では循環小数になってしまうことが多く、内部的に循環小数を丸めて処理していると丸め誤差が ...

浮動小数点数 - Wikipedia

値をシフトすることで表現範囲を広げ、丸め誤差を少なくなるようにしている。この操作を正規化という。正規化は基数の1乗を求めれば ... こういう値は丸め誤差として現れてしまう。この誤差は固定小数点数でも10進数で表現していなければ必ず発生する。 ...