トップページ
⇒
tech
1001コメント
304KB
C++相談室 part10
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0668
デフォルトの名無しさん
NG
NG
>>667
x87 って、確か浮動小数点レジスタの精度は 80bit (double の 64bit より長い)
あったよね。
64bit の即値とかけ算する fmull と、80bit レジスタ動詞でかけざんする fmulp
で精度に狂いが出てるんじゃないの?
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています