GPGPU
■ このスレッドは過去ログ倉庫に格納されています
0377デフォルトの名無しさん
2007/02/28(水) 04:54:13CPUだと、
hoge*(1.0 / ( 1L << (8 * sizeof(int) - 16)));
一般的なWintel環境だと、hoge*(1.0 / (32768.0));
だと思うんですが、GPUだとこのままだとint型とfloat型の扱いの違いか、正常に変換出来ません。
GPUでやる場合、どういう風にすればいいのでしょうか?
■ このスレッドは過去ログ倉庫に格納されています