トップページ
⇒
tech
1001コメント
278KB
すれ立てるまでもない質問はここで 第72刷
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0489
デフォルトの名無しさん
2005/12/08(木) 19:05:48
IEEE754倍精度浮動小数点数を用いて、
x86かPowerPCの標準の乗算命令を用いて、
999/1000の1000乗を計算すると、どれほどの誤差が出るのでしょうか?
x86とPowerPCで計算結果に違いは出るでしょうか?
どのようにして、この誤差を回避すればよいでしょうか?
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています