C#, C♯, C#相談室 Part91 [無断転載禁止]©5ch.io
■ このスレッドは過去ログ倉庫に格納されています
0136デフォルトの名無しさん
2016/08/04(木) 02:15:13.20ID:Vi80rqnk有効数字が小数的1桁の数字(delta)を何回加減算しても
結果の有効数字は小数的1桁
だから累積誤差が±0.05を超えない限り、小数点1桁で丸めた値は必ず
数学的に正しい値になる。
もちろん演算結果の桁数(指数表記した時の仮数部の桁数ね)があまりに大きい
(doubleの場合確か16桁ぐらいだと思ったけど)と正しい結果にはならないけどね。
■ このスレッドは過去ログ倉庫に格納されています