プログラミングの為の数学と算数
■ このスレッドは過去ログ倉庫に格納されています
0686デフォルトの名無しさん
NGNGa =1-a;
a =1-a;
とこの計算を2度やってみましょう。
数学的には元に戻る筈ですが、aが小さい程誤差が大きくなります。
浮動小数点数は c*2^d という方式で表現します。c,dのビット幅は固定です。
その為、1-a の段階で aの下位ビット情報が捨てられてしまう事になります。
ただし 1-a という計算結果ちゃんと 実数部の精度があります。
級数展開は 質問スレで書いたとおり
x/2 + x^2/8 + x^3/16+5*x^4/128+.. です。 x^4 が無視出来る程度に小さい時に 3次までの結果を使うといいでしょう.
■ このスレッドは過去ログ倉庫に格納されています