トップページ
⇒
tech
862コメント
274KB
浮動小数
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0358
デフォルトの名無しさん
NG
NG
人間が手計算をするときは10進で行う。
コンピュータで計算させるときも10進で行えば、誤差を含めて手計算と結果が一致する。
この辺が金融系でBCDが使われる理由なのかな。
誤差を無くしたいなら実数ライブラリ(浮動小数点数ではない)でも用意するしかないか
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています