こういうことか。

・O(1)のベクトルA1:(1.2, 2.3) ※ 有効桁16
・O(1)のベクトルA2:(2.6, 3.1) ※ 有効桁16

  ↓
ベクトルA1,A2でもの凄い計算
  ↓

・ベクトルA1':(2.46...1, 3.96...7) ※ 有効桁14
・ベクトルA2':(2.46...2, 3.96...6) ※ 有効桁14

  ↓
ベクトル C=A1'-A2' を計算。
  ↓

・ベクトルC:(-1e-13, 1e-13) ※ 有効桁1

・ベクトルCの単位ベクトル:(-1, 1) ※ 有効桁1以下w