トップページ
⇒
tech
461コメント
161KB
【FPU】 浮動小数点 【SSE】
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0178
デフォルトの名無しさん
2008/02/20(水) 16:11:41
>IEEE754単精度では1〜10^-37ぐらいを同じ精度で計算するのは朝飯前じゃがのう。
よくわからないけど、 1.0 + 1.0 * 10^-37 が正確に計算できるってこと?
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています