Linux使っててこりゃ普及するわけないと思った時57
■ このスレッドは過去ログ倉庫に格納されています
0768login:Penguin
2011/12/15(木) 08:19:57.16ID:eUl9oYKyそれは、表計算ソフトを使えない人には理解が難しいと思う。
同じ数字でも属性によって計算方法が変わるんだよ。
表計算は簡易版っていう部分で大体どういう人なのかわかる。
おそらく理解が難しいだろうなあ。
それらは全く別のソフトだから互いに比較はできないんだよ。
あと浮動小数点数っていうのは精度が低い。
君なら、整数より低いのか?って疑問に思うんだろ?
その通りなんだよ。
常に誤差があるのが浮動小数点数なんだ。
そもそも、doubleの値と0の比較さえ==演算子で出来ないんだ。
常に誤差があるのが当たり前だから。
十進の値に直して表示するだけでも誤差が出るぞ。
■ このスレッドは過去ログ倉庫に格納されています