【FPU】 浮動小数点 【SSE】
■ このスレッドは過去ログ倉庫に格納されています
0342デフォルトの名無しさん
2009/02/21(土) 12:59:31君の妄想はこの程度しかできないんだろうけど、もっと現実に即して考えないと後々損することになるかもしれないよ。
80ビット精度は上にもあるように64ビット(IEEE定義のdouble)に演算誤差を伝播しないためにインテルが保障を確保するために必要とする精度であって、ジンバブエドルとはまったく別の話。
英語のウェキの方が詳しいが、IEEEの浮動小数点数の定義も含めて勉強しなおしたほうがいいんじゃないか?
■ このスレッドは過去ログ倉庫に格納されています