【FPU】 浮動小数点 【SSE】
■ このスレッドは過去ログ倉庫に格納されています
0215デフォルトの名無しさん
2008/02/22(金) 00:44:23最小の単精度正規数
1.00000000000000000000000 × 2^(-126)
次に小さな単精度正規数
1.00000000000000000000001 × 2^(-126)
その差
0.00000000000000000000001 × 2^(-126)
差を正規化して
1.0 × 2^(-149) ≒ 1.4 × 10^(-45)
奇しくもこれって非正規数の最小値と一致するのな。
>>209 はその辺読み違えたのかと。だよな?
さて、>>194 (= >>209 ?) の番だよ。
>0近辺では目が細かくて10^-37程度だが、
>1の近辺では目が粗くなっていて10^-7程度でメッシュが切られている。
10^-37 の算出根拠を示してください。
■ このスレッドは過去ログ倉庫に格納されています