スレ立てるまでもない質問はここで 138匹目
■ このスレッドは過去ログ倉庫に格納されています
0635デフォルトの名無しさん
2014/09/28(日) 09:37:33.34ID:sfiCrzAsIEEE754倍精度では有効桁数は15桁くらい
つまり、(0,0)から1m離れた距離の精度は1E-15(1フェムトメートル:原子核の大きさ)
一方(0,0)の裏側(半径が約6300km)から1m離れた距離の精度は、1E-9(1ナノメートル:
半導体プロセスルールの1/10くらい)
■ このスレッドは過去ログ倉庫に格納されています