2011年3月11日金曜日

最近接偶数丸め

最近接偶数丸め(round to the nearest even; RN)は、端数が0.5より小さいなら切り捨て、端数が0.5よりおおきいならば切り上げる。端数がちょうど0.5なら切り捨てと切り上げのうち結果が偶数となる方へ丸める。

偶数となる方へ丸める理由:丸めによる誤差が小さいため
①小数点以下2桁の2進数に、0捨1入して「1」となる数とその合計
[1.00],[1.01],[0.11],[0.10] → 左の合計[11.10(3.5)]
②最近接偶数丸めの場合の「1」となる数とその合計
[1.00][1.01][0.11] → 左の合計[11.00(3.0)]

②の場合丸めを行う前と後では結果が同じになる。
以上のことから、最近接偶数丸めは誤差が小さいと言える。

0 件のコメント:

コメントを投稿