トップページ
⇒
tech
461コメント
161KB
【FPU】 浮動小数点 【SSE】
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0207
デフォルトの名無しさん
2008/02/21(木) 22:54:54
>>203
機械εが10^-16前後だから
1 前後の値を数百数千数万数十万といった加減算をやってりゃ
10^-14 程度の数値誤差はあって当然。
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています