トップページ
⇒
tech
1001コメント
330KB
iモード携帯電話用Java(iアプリ) Part14
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0525
デフォルトの名無しさん
2007/06/04(月) 18:15:46
そのとおりなんですが、おそらく、内部で3つのFastMath値の積をFastMath精度で計算しているらしく、
計算途中で整数部7bit x 3 = 21bitの値が現れ、それが原因でオーバーフローになる…
と推測したわけです。
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています