C言語なら俺に聞け(入門編)Part 117
■ このスレッドは過去ログ倉庫に格納されています
0846デフォルトの名無しさん
2013/08/05(月) NY:AN:NY.AN3Dって特性上、小数を扱うんだけど、入力した値が0.0001とか、細かい単位で勝手に変わってることがある。
入力しても見てみるとまたずれてる。
コンピュータは2進数で管理してるから1ビットごとに0.5、0.25、0.125、・・・ってやつのビットで管理してるから
まぁ近似値しか表現できないのかとも思うが何とかならんのか。
■ このスレッドは過去ログ倉庫に格納されています