〓Mathematica〓
■ このスレッドは過去ログ倉庫に格納されています
0668132人目の素数さん
NGNG混同に基づいているような気がする。
ということで、高校生君に
> 0.11111111111111111111111111
> って出て、それをクリックしてエンター押すと
> 0.1111111111111111111111111099999999999964597
> って出るんですがどうゆう意味があるのでしょうか?かなり気になるんですが。
の理由を分かりやすく教えてあげれ > 誰か
多倍長整数や高精度近似数は2^16または2^32進数(整数要素の配列)らしい。
あとMathematicaBookの「3.1数」には
123.4 機械精度
123.4567890123456789 システムによっては任意精度 <- なんじゃそりゃ
123.4567890123456789` 機械精度
123.456`200 200桁の任意精度 <- precision
123.456``200 200桁の任意確度 <- accuracy
1.234*^6 機械精度
1.234`200*^6 200桁の精度 <- 任意精度ととっていいのか?
とあるね。しかしこの例が微妙に分かり辛い...
リファレンス「入力の文法」にはdigits.digitsは「近似数」としか書かれてない。
これは任意精度なの?機械精度?だれか教えてくれますか?
わたしは普段整数しか扱わないので知らないままだった。
■ このスレッドは過去ログ倉庫に格納されています