【C++】 DirectX初心者質問スレ Part20 【C】
■ このスレッドは過去ログ倉庫に格納されています
0172デフォルトの名無しさん
2008/12/13(土) 15:37:08パターンA D3DXがSSE2で動作
パターンB D3DXがx87で動作
パターン0 _controlfp( PC_64, MCW_PC )
パターン1 _controlfp( PC_64, MCW_PC )
パターン2 _controlfp( PC_64, MCW_PC )
とし、組み合わせで結果を確認しました。
全て私のPen4マシンでのものです。
コンパイルオプションで /fp:strict を指定しました。
A+0、A+1、A+2とも、挙動が異なりました。精度が違うのですからまぁ当たり前かと思います。
A+0 と B+0についてです。
前者はSSE2がFP-strictであるそうですし、後者はオプションでstrictを指定したx87計算です。
結果が完全一致するのでは?と期待しましたが、やはりfloatの最末尾レベルの誤差はでてしまうようです。
A+1とB+1、A+2とB+2についても同様でした
■ このスレッドは過去ログ倉庫に格納されています