トップページ
⇒
tech
862コメント
274KB
浮動小数
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0334
デフォルトの名無しさん
NG
NG
>浮動小数点は誤差があるので学術的に使うことは有り得ない
>普通はBCD
>BCDは理想的でも 実際には処理が遅いからあまり使わない
>BCDは、有効桁数の範囲なら誤差が出ないってことなんじゃない?
バカというか、突っ込まれて、とち狂ってるとしか思えんが、いちおう言っとこう。
もっと勉強しる!
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています