C言語なら俺に聞け(入門編)Part 86
■ このスレッドは過去ログ倉庫に格納されています
0004デフォルトの名無しさん
2011/06/27(月) 09:21:11.17double型の精度について質問させてください。
doubleの有効桁は、調べたところ16桁と書いてありました。
これはつまり、
a=1.0*10^(-15)
b=1.0*10^(-14)
b-a = 0.9*10^(-14)
が正しく表示されるくらいの精度はあるということでしょうか?
■ このスレッドは過去ログ倉庫に格納されています