浮動小数
■ このスレッドは過去ログ倉庫に格納されています
0689デフォルトの名無しさん
2006/05/24(水) 16:08:17小数点以下4桁のBCDでも1万倍の固定小数点でも1万倍の浮動小数点でも
その有効範囲の計算結果は同じ。
1/3 というような場合に小数点以下4桁BCDや1万倍固定小数点は
0.3333までしか答えが得られない が、1万倍浮動小数点なら その有効桁だけ求まる。
が、だからといって意味があるわけではない
0.33334 と 0.33336で四捨五入の方法を変えたい場合に浮動小数点から有利かどうかも
それも実装によってしまう。
オーバーフローやアンダーフローの問題は、どの方法でも起きるのだし
結局は、どの方法が楽かという問題でしかない。
ただ浮動小数点ならsin/cosから指数対数まで既に用意された関数が使えるというメリットがある程度かもな
■ このスレッドは過去ログ倉庫に格納されています