初心者無視! Java相談室 その9
■ このスレッドは過去ログ倉庫に格納されています
0114デフォルトの名無しさん
NGNG「足し算はできるのに引き算はできない」ってのがまちがい。
7.5は2進で111.1と厳密に表せる。
5.4は2進で101.0110110110...となる。それを途中で切って、
最後の桁を丸めてある。
つまり、正確に表せていない。表示するときにはテキトーに
丸めて、もっとも近い10進数で表している。
だから足し算の結果も引き算の結果もトーゼン正確でない。
もっとも近い10進数に丸めたとき、10進で計算した結果と
同じになるかどうかはたいした問題じゃない。どっちも
「近似値を丸めた結果」に過ぎないんだから。
近似値が、要求する精度に収まっていればそれは「正しい」
結果だ。
■ このスレッドは過去ログ倉庫に格納されています