トップページ
⇒
tech
862コメント
274KB
浮動小数
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0336
デフォルトの名無しさん
NG
NG
皆が言ってるように、どんな表現方法だろうがビット数以上の精度は出ない。
有効桁数の範囲なら誤差が出ないなんて事はありえない。
金利計算で誤差が出ないなんてのも迷信。
1%複利で100年 利子が幾らになるか誤差無く計算出来るのに何桁必要だと思うんだ?
表現可能な範囲内で表現可能な誤差に収まるというだけの事。
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています