トップページ
⇒
tech
1001コメント
273KB
C言語なら、俺に聞け! <27>
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0761
デフォルトの名無しさん
NG
NG
>>755
IEEE754(現在のほとんどのCPUで採用されている浮動小数点フォーマット)
について調べてみるといいと思われ。
単精度(float)の仮数部は23bit、正規化されてるので事実上24bitあって、
2^24=1677216だから、
>>759
の言うとおり1677215までの整数なら
誤差なく表現できる。
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています