トップページ
⇒
tech
665コメント
224KB
awkについて語るスレ $2
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0581
デフォルトの名無しさん
2011/05/06(金) 23:07:48.20
awkでは数値はすべてdoubleで扱います。
ですからその精度である53bit分、大体15桁ちょっとを超えると正確な値を保持できません。
23桁あたりまで正しく表示できてるってのはよくわかりませんが、
3.0.6にしても出力時の書式指定が違うだけで内部的には同じように不正確な値に
なってしまってると思います。
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています