C言語なら、俺に聞け! <27>
■ このスレッドは過去ログ倉庫に格納されています
0100デフォルトの名無しさん
NGNG(0.1 = 1/16+9/256+9/4096+9/65536...)
そのため、浮動小数点では、0.1を近似値としてしか表現できない。
固定少数点は、小数部に必要な桁数だけ下駄をはかせて、
整数であるかのように扱うため、上記の誤差は発生しない。
しかし、一般的に誤差といっても、浮動小数点形式に固有の誤差、
乗除算に伴う誤差、加減算に伴う誤差など多々あるので、
固定小数点を使えばすべての誤差がなくなるわけではない。
■ このスレッドは過去ログ倉庫に格納されています