C、C++の最適化について語るスレ 3
■ このスレッドは過去ログ倉庫に格納されています
0629デフォルトの名無しさん
2011/09/29(木) 23:30:12.27ある様な無い様な。
10進数で小数点第二位を四捨五入する場合を考える。
この時、0.05以上なら切り上げ。未満なら切り捨てになる。
一方、double型の指数部を見れば仮数部の実際の小数点を特定出来る。
0.05は 0.0000_1100_1100_1100_1101…であるため、特定した小数点の下位ビットから「1100_1100_1100_1101…」に該当するビットと「1100_1100_1100_1101…」とを大小比較する。
小さければ該当ビットをクリア。
大きければ該当ビットをクリアの上、その小数点に0.1を加算する。
なんか間違えている気がする。
■ このスレッドは過去ログ倉庫に格納されています