>>429
直交行列がどうとかいうのは
回転させただけだろう。

F（X）=6X'^2+4Y'^2-6*√2X'+4√2Y'-7=0

を見ると一次の項があるから
平方完成して、平行移動して二次の項と定数項だけにする。

で、その解答の式と比べると
二次の係数が 6x^2 + 4y^2 = 2 (3x^2 + 2y^2) で
きっと同じ楕円を表しているだろう。