C++相談室 part117 [転載禁止]©5ch.io
■ このスレッドは過去ログ倉庫に格納されています
0307デフォルトの名無しさん
2015/06/11(木) 22:44:50.42ID:PuDMuD0l>四則演算をはじめとする各種演算に伴って数値誤差は増大するのでしょうか。
気をつけない限り増大する。
a.doubleで表現できないのがある(十進0.1が有名)
b.その仮数15桁以上の値の丸め誤差。
分数型を使うなどで回避可。
>6桁しか表示されませんでした。
科学的表記法が欲しいという意味なら%.15e
■ このスレッドは過去ログ倉庫に格納されています