浮動小数
■ このスレッドは過去ログ倉庫に格納されています
0620デフォルトの名無しさん
2006/04/27(木) 19:27:07BCD は誤差なく常に「真の値」で演算を行うので、
その考察は見当違いですよ。
ビジネスで行う演算は、たいていがどこで四捨五入するとか、
どこでどう切り下げるとかが契約や法律で定められていて、
常に正しい値が得られるようになってます。
(契約書や決算書に約3円とか書かないでソ、普通)
で、そういう計算の際の決まりは大抵10進数で記述されているので、
計算機内で n * 10 ^m (n, m は整数) が正しく表現できれば、
誤差なく実装することができる。
■ このスレッドは過去ログ倉庫に格納されています