D言語 Part24
■ このスレッドは過去ログ倉庫に格納されています
0406デフォルトの名無しさん
2010/04/18(日) 12:36:55何が分かってないのか李恢した。
まず、何進数で表そうが整数は整数で誤差なんか全くない。オーバーフローしない限り。
これはOKだよな。
次に、浮動小数点実数というのは、実数を仮数部×n^指数部のふたつの整数で表現する形式。
これもOKだよな。
では0.1を通常の「2進」浮動小数点数で誤差なく表現できない理由はなにか。
0.1を仮数部×「2」^指数部で表したときに仮数部が循環小数になってしまい
有限桁ではそのまま表現できないからだ。
これもOKだよな。
で、この指数部分「2」は2進数の2とは関係無い数字だ。
■ このスレッドは過去ログ倉庫に格納されています