VBプログラマ質問スレ(6.0以前) Part50
■ このスレッドは過去ログ倉庫に格納されています
0222通りすがりの浮動小数点数野郎
2006/11/16(木) 18:26:38これらの和は桁数が足りる限り不動小数点数で表現しても誤差が発生しないので
安心して使ってくれ!www
(実装がマトモならリテラル・文字列からの変換でも大丈夫なはず。)
ちなみにリテラルからの変換は文字列からの変換と同じく
10進→2進変換なんで、その逆変換ともども
単純な表現誤差以外に結構厄介な問題がある。
(浮動小数点演算の黎明期、確か1960年代頃にはその話題で
変換の精度についてアメリカ数学会に論文が書かれたくらい厄介な問題だ。)
心配なら整数で初期化してから割り算して値を作れば丸め誤差は入るけど、
より厄介な10進2進変換の誤差は紛れ込まなくなるのでオススメ。
(桁数が足りてる限り整数の10進2進変換には誤差がなく、表現の誤差もからね。)
■ このスレッドは過去ログ倉庫に格納されています