スレ立てるまでもない質問はここで 144匹目 [無断転載禁止]©5ch.io
■ このスレッドは過去ログ倉庫に格納されています
0522518
2016/12/08(木) 10:20:00.32ID:FEYStmItレスありがとうございます。
double型にキャストした時点で多少誤差が出るのはいいのですが、
double型から uint64_t型にキャストした時に大きくズレる理由が知りたかったんです。
ただ、頂いたURLのとこで動かすと直感通りの結果になってるため、
どちらかといえば VC++2015 の問題のような気がしてきました。
ちなみに、頂いた URL でわざと double -> float にして動かしてみても劣化しないため、
意図したとおりにキャストされていない気がします。
(最適化?CPUレジスタの関係?)
http://ideone.com/3Nr06w
■ このスレッドは過去ログ倉庫に格納されています