数学者だけど(数学的な)質問ある?
■ このスレッドは過去ログ倉庫に格納されています
0382132人目の素数さん
2011/05/31(火) 18:57:53.10誤差の話ため、コンピュータ的な質問かもしれません。
●現象
コンピュータで計算しています。
数値aが増加すると、数値bが一定の規則で減少していきます。
規則は、以下の通りだと思っていました。
b * (0.9^a)
※10の位以下切り捨て
しかし、数値に50000が現れた際異変が起きました。
50000
45000
40400
100000の場合、10乗までは少なくともこのようなずれは起こりませんでした。
また、1つ前の数値x0.9でもありません。
原因は分かりますでしょうか?
■ このスレッドは過去ログ倉庫に格納されています