トップページ
⇒
math
1001コメント
288KB
高校数学の質問スレPART368
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0792
132人目の素数さん
2014/03/28(金) 11:04:47.91
>>789
そこにいたるまでの数値が有効数字による表示なんてどこにも書いていないし
その表にあるのは厳密値。
普通に計算できる値を無闇に削る意味は無い。
そもそも有効数字2桁なら、小数点第2位を四捨五入して30個もデータ足してみろ
最大で0.15の差が生じてしまい計算にならん。
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています