トップページ
⇒
tech
461コメント
161KB
【FPU】 浮動小数点 【SSE】
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0216
デフォルトの名無しさん
2008/02/22(金) 01:35:23
>>207
> 10^-14 程度の数値誤差はあって当然。
「誤差が10^-14」ってどこから出てきた話よ。
> 10^-14 みたいなサイズのベクトル
の要素の誤差が10^-14なのか?もしそうならこれはひどすぎる。
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています