トップページ
⇒
tech
165コメント
38KB
無限精度実数ライブラリRealLib
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0019
デフォルトの名無しさん
2009/07/23(木) 12:45:48
どうやら1/3とかは式の形のままで保持しているようだ。
そして必要に応じた精度で値を返しているらしい。
だから例えば1/3*3は内部的には1なわけではなく、必要に応じて自動的に必要な精度を定めて1.00000000000000000000000…と返ってくる。
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています