〓Mathematica〓
■ このスレッドは過去ログ倉庫に格納されています
0672132人目の素数さん
NGNG> 123.4567890123456789 システムによっては任意精度 <- なんじゃそりゃ
わかってて書いてるのかも知れないが、システムによって機械精度の桁が違うから。
計算速度のために機械精度で扱える時はあつかおうとするという
Mathematicaの設計の結果。
> リファレンス「入力の文法」にはdigits.digitsは「近似数」としか書かれてない。
digits.digitsって?
>>670
そのプログラムバグってるぞ。
x = 0.9999999999999999999999999
で試してみ。
# というかRationalize[x,0]の不完全版を回りくどくやっているだけ。
欲しいのは
FromDigits[RealDigits[x], 10]
あたりか?
>>671
状況が良くわからないが、
If[x > 0, ..., ...][[2]]
とか、もしかしたら
Simplify[If[x > 0, ..., ...], x > 0]
とか。
■ このスレッドは過去ログ倉庫に格納されています