【FPU】 浮動小数点 【SSE】
■ このスレッドは過去ログ倉庫に格納されています
0161デフォルトの名無しさん
2008/02/18(月) 22:06:02そのベクトルを求める際に
数値誤差がたんまり入ってる恐れがあるじゃん。
全体的なオーダーが小さい場合はそういう手法は役に立つと思うけど、
例えば 1 前後のオーダーが普通な時に
10^-14 みたいなサイズのベクトルがあったら
それは多分もの凄い勢いで数値誤差を含んでる。
困るのは多分こういう時。
■ このスレッドは過去ログ倉庫に格納されています