かんたんな外積計算のはずですが、何故かではません。
みてください
x=1/√2(1,-1,0)でy=1/√6(1,1,2)として外積x×yは
これって例えば答えのx成分は、
xの第2成分*yの第3成分−x第3*yの第2ですよね？
-(1/√3)-(1/√6)とかになってしまうのですが。。。