無限精度実数ライブラリRealLib
■ このスレッドは過去ログ倉庫に格納されています
0078名無しさん
2009/08/12(水) 18:49:46特定のライブラリではない汎用の方法がある。
条件は:
(1)IEEE-754をサポートしている
(2)対象とする計算が線形である
アセンブラかC/C++のインラインアセンブリで、丸め方法を捜査する。
(答え) = {(全部切り上げで計算した結果)+(全部切り下げで計算した結果)} / 2
(精度) = ABS{(全部切り上げで計算した結果)ー(全部切り下げで計算した結果)}
■ このスレッドは過去ログ倉庫に格納されています