トップページ
⇒
tech
461コメント
161KB
【FPU】 浮動小数点 【SSE】
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0278
デフォルトの名無しさん
2008/02/26(火) 00:40:17
>273
どこの分野でも測定機の精度が八桁もあったら高性能といわれる
実数をきちんと表現しても元データの誤差以上にはならないから
現実的には計算が遅くなるだけでなんの意味もなさないでしょ
役に立たたないことそんなに力説しないでもいいんじゃない
>276
循環小数なら整数演算だからスレ違いでしょ
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています