浮動小数
■ このスレッドは過去ログ倉庫に格納されています
0423デフォルトの名無しさん
NGNG√2^2だろ
421 名前:デフォルトの名無しさん[sage] 投稿日:04/03/24(水) 12:23
それ以前に直角が180度って
誰かつっこんでやれよ...
422 名前:デフォルトの名無しさん[sage] 投稿日:04/03/24(水) 12:36
>>420
√2^2 は無理数じゃないだろ
423 名前:デフォルトの名無しさん[sage] 投稿日:04/03/25(木) 13:42
引き算は怖いよな。
誤差が一気に増加する恐れがあるから。
424 名前:デフォルトの名無しさん[sage] 投稿日:04/03/25(木) 14:20
引き算で誤差は増えてないでしょ。 有効桁数が減る場合がある=桁落ちでしょう。
425 名前:デフォルトの名無しさん[sage] 投稿日:04/03/25(木) 15:37
桁落ち=誤差の発生じゃないか?
426 名前:デフォルトの名無しさん[sage] 投稿日:04/03/25(木) 15:52
精度0.01 有効桁3桁の数の引き算 1.01 - 1.00 = 0.01
有効桁は 1桁
精度は0.01で変化していない。
■ このスレッドは過去ログ倉庫に格納されています