Microsoft Visual C++ Toolkit 2003 質問箱
■ このスレッドは過去ログ倉庫に格納されています
0462デフォルトの名無しさん
2005/10/26(水) 18:11:438bitで表わせる範囲の数(0-255)であっても
16bit(WORD)で演算するのはちょっと精度不足だよ。
せいぜい10bit程度しかシフトできないんで、DWORDで計算するのとでは
誤差の出方が違ってくる。
実際プログラミングして試してみれ。
■ このスレッドは過去ログ倉庫に格納されています