トップページ
⇒
tech
461コメント
161KB
【FPU】 浮動小数点 【SSE】
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0055
デフォルトの名無しさん
2008/01/11(金) 19:45:43
>>52
素朴な疑問なんですが、float では精度が足りない、というその基準は何なんでしょうか。
例えば、数値計算において何か不可欠な条件があって、それを実現するために
数値の精度を決定していくと float では足りない、みたいなことになったりしますか?
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています