トップページ
⇒
tech
862コメント
274KB
浮動小数
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0403
デフォルトの名無しさん
NG
NG
質問に質問で答えるのはよくないな。
まあいいか。
自乗和ってのは知ってるよな?分散とか標準偏差で使うあれだ。
つまり、上で言ってるのは、分散の比較だ。
つうか、IEEE754を知ってるなら、例えば64bitの数の演算には
64bit以上の精度が必要なのは知ってても良さそうなものだが。
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています