C言語なら俺に聞け! Part 125
■ このスレッドは過去ログ倉庫に格納されています
0282254
2006/04/10(月) 18:18:42「桁落ち」と「丸め誤差」の違いは理解できていると思います。
floatの0.1とdoubleの0.1を比較するなというのは丸め誤差に基づく禁忌で、
同じくらいの大きさの実数を引き算するなというのは桁落ち現象に基づく禁忌であると
思っています。
「丸め誤差」は例えば10進の0.1を二進数では正確に表現できないことによるものなので
「二進化誤差」と「丸め誤差」は同じものと思われるのですが、
それで大丈夫ですか?
■ このスレッドは過去ログ倉庫に格納されています