Pythonのお勉強 Part37
■ このスレッドは過去ログ倉庫に格納されています
0628デフォルトの名無しさん
2010/04/18(日) 14:05:07精度を2に設定した下記の計算では切り捨てられています。
これはどういうことでしょう??本来ならDecimal("2.1")になると思うのですが・・・。
>>> import decimal
>>> decimal.getcontext().prec = 2
>>> a = decimal.Decimal(str(1.01))
>>> b = decimal.Decimal(str(1.04))
>>> a + b
Decimal("2.0")
■ このスレッドは過去ログ倉庫に格納されています