C言語なら俺に聞け(入門篇) Part 33
■ このスレッドは過去ログ倉庫に格納されています
0342デフォルトの名無しさん
2008/08/02(土) 07:16:57としたときに、やはり丸め誤差をくらって、
数学的に期待した結果と返り値が1ずれることは想定すべきですか?
例えばa = 1.3だとして、
floor(a) => 0.99999999999999912341
int(floor(a)) => 0
になるような場合が起こってしまうのか、ということです。
実際にはa = 1.3の場合には、自分の環境ではこうなりませんが、
aが他の値のときにこのようなことが起こるかもしれません。
■ このスレッドは過去ログ倉庫に格納されています