C言語なら俺に聞け(入門編)Part 93
■ このスレッドは過去ログ倉庫に格納されています
0450デフォルトの名無しさん
2011/12/12(月) 08:17:18.89仮数部の有効桁内に収まる整数は全て表現できるはずだから(以下のように最上位ビットでくくりだせばいい)、
おっしゃる通りpowでの計算が問題かもしれない。
2^n + 2^n-1 + 2^n-2 +・・・+ 2^2 + 2^1 + 2^0
= (1 + 2^-1 + 2^-2 +・・・+ 2^-n+2 + 2^-n+1 + 2^-n) * 2^n
100 = 0x64 = 0b1100100 = 1.1001*2^6
10 = 0xA = 0b1010 = 1.01*2^3
■ このスレッドは過去ログ倉庫に格納されています