トップページ
⇒
tech
836コメント
331KB
Fortran
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0316
デフォルトの名無しさん
NG
NG
FORTRAN上で、zに単精度の1.1を代入していませんか?
コンパイラオプションにもよりますが、単純に 1.1 と書くと、通常、
単精度になりますから、せいぜい10進数では7桁程度の精度しかありません。
Z=1.1D0 と書けば、倍精度になりますから、15桁くらいの精度になります。
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています