スレを勃てるまでもないC/C++の質問はここで 16
■ このスレッドは過去ログ倉庫に格納されています
0437デフォルトの名無しさん
2010/08/16(月) 18:50:11floatで-3.4549897 と -3.4549899 の引き算を行った所、
答えが-0.0000002(7桁をオーバー)ではなく 2.3841858e-007 になり、
割り算を当てるとゼロ割り算と同じエラーを吐きます。
時折見かける、この e-007 などは扱える数を超えたという意味なのでしょうか。
こういった場合ifで桁数を超えないか監視するのが定番なのでしょうか?
■ このスレッドは過去ログ倉庫に格納されています