【FPU】 浮動小数点 【SSE】
■ このスレッドは過去ログ倉庫に格納されています
0286デフォルトの名無しさん
2008/02/27(水) 13:06:33ビット表現に×2^nと正規化が出てきたら文字通り
浮動小数点だと言ってみるテスト
(まあ現在普通に浮動小数点といえば
誤差含む数を扱うためのものだが)
>>280
実際のところ実数が不可算無限個あるって性質は
無視していいよね。
数学上は可算無限個の中に含まれない実数を
作り出すこと自体無理だし、
実用上は誤差を考えれば有限桁ですむし。
>>284
表そうも何もどういう循環小数か分からない時点で
■ このスレッドは過去ログ倉庫に格納されています