C言語なら俺に聞け(入門編)Part 86
■ このスレッドは過去ログ倉庫に格納されています
0008デフォルトの名無しさん
2011/06/27(月) 15:00:12.48以下の説明は10進法で説明してるから例え話のようなものです(実際は2進数です)
1.0*10^(-15)は1.0っていう情報とそれを15桁ずらすっていう情報に分けて保存するの、小数点をずらす感じだから不動小数点と呼ばれる
で、16桁程度の精度ってのは1.0の部分の話なので1.0*10^(-15)はもっと精度がある
どのみちdouble型の誤差を気にするなら気をつけないといけないことがいくつかあるので
他の人が入ってる通り調べたほうがいい
■ このスレッドは過去ログ倉庫に格納されています