【FPU】 浮動小数点 【SSE】
■ このスレッドは過去ログ倉庫に格納されています
0229デフォルトの名無しさん
2008/02/22(金) 20:09:05・O(1)のベクトルA1:(1.2, 2.3) ※ 有効桁16
・O(1)のベクトルA2:(2.6, 3.1) ※ 有効桁16
↓
ベクトルA1,A2でもの凄い計算
↓
・ベクトルA1':(2.46...1, 3.96...7) ※ 有効桁14
・ベクトルA2':(2.46...2, 3.96...6) ※ 有効桁14
↓
ベクトル C=A1'-A2' を計算。
↓
・ベクトルC:(-1e-13, 1e-13) ※ 有効桁1
・ベクトルCの単位ベクトル:(-1, 1) ※ 有効桁1以下w
■ このスレッドは過去ログ倉庫に格納されています