QBASIC
■ このスレッドは過去ログ倉庫に格納されています
0056デフォルトの名無しさん
NGNGマジレスすべきか迷ったけど、一応書いてみる。
人間の10進数で 1/3 や 1/9 を正確に表現できないよーに、
コンピュータの16進数では 1/10 や 1/100 を正確に表現できないんです。
0.3333333 を3回足しても 0.9999999 でそ。それと全く同じです。
0.1 とか 0.01 は16進数で書くと循環小数になるんで、仕方なく適当な桁で切り捨てやがります。
これが間違った答えが出る原因であります。
所詮、人間とコンピュータは相容れぬもの。
■ このスレッドは過去ログ倉庫に格納されています