C言語なら俺に聞け(入門編)Part 93
■ このスレッドは過去ログ倉庫に格納されています
0492デフォルトの名無しさん
2011/12/13(火) 00:18:50.37まあ結局>>359は
- pow(10,2)が99.9... みたいな値を返した。
- doubleできっちり100は表現できるので(しいて言えば10も2も)、誤差といえる。
- 誤差はpow()の内部アルゴリズム上仕方ないかもしれない。
- doubleからintへのキャストは切り捨て。
- printf("%f")は最下位桁を四捨五入。
あたり?
しかし個人的には>>389が本当にならその原因に一番興味があったのだがw
■ このスレッドは過去ログ倉庫に格納されています