トップページ
⇒
tech
862コメント
274KB
浮動小数
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0401
デフォルトの名無しさん
NG
NG
それでは聞くが、4桁の精度が求められる場合、
自乗和の差を計算するには何桁の内部精度が必要かね?
2数の大きさが違いすぎる時は考慮しなくて良いが、
4桁の内で違うのは、「違いすぎる」とは呼ばない。
念のため。
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています