トップページ
⇒
tech
63コメント
12KB
+-*/ 数値解析プログラミング /*-+
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています
0050
デフォルトの名無しさん
NG
NG
>>44
E行列もU行列も、計算機で取り扱うときは要素の分布によって
非常に困るときがイパーイある。引き算による桁崩れもおきるし、
乗除による丸め誤差の拡大とか、割り算でマシーン・ゼロとか。
モレは最近は多倍長で逃げるが、時間かかるなあ。
全部
前100
次100
最新50
■ このスレッドは過去ログ倉庫に格納されています