くだすれFORTRAN(超初心者用)その4
■ このスレッドは過去ログ倉庫に格納されています
0019デフォルトの名無しさん
2009/01/28(水) 17:55:31FW=CB(2)-CB(1) //計算領域の幅を算出
CW=FW/NCX //幅をセル数で割ってセルの幅を算出
となる部分で、FWが1.33、NCXが200で、CWが6.65E-03となるはずが、
なぜか6.6500003E-3となっています。ちなみにFWはここで突如出現、
それ以外は特に型の宣言無くCOMMON文の中で定義されています。
何となく型の宣言が問題のような気がするんですが、原因と解決法
(ぴったり6.65E-3にしたい)を教えていただけませんか?
■ このスレッドは過去ログ倉庫に格納されています