>>342
行列式は使わないけど
θの回転をしたとき、その結果が楕円とかの標準形になるようにθを定めるのがセオリー

C:x^2-xy+y^2=1,原点中心にθ(-π/2＜θ＜π/2)の回転をする変換をf
としてC上の任意の点を(x,y)のfによる像(X,Y)との関係を考える
f^(-1)は逆行列を求めるまでもなく(-θ)の回転だから

[[x],[y]]=[[cos(-θ),-sin(-θ)],[sin(-θ),cos(-θ)]] [[X],[Y]]
これよりx=(cosθ)X+(sinθ)Y, y=(-sinθ)X+(cosθ)Y
(x,y)はC上の点だからこれをぶち込む

C':(1+(sin2θ)/2)X^2 -(cos2θ)XY +(1-(sin2θ)/2)Y^2=1

ここでXYの係数が0になるようにθを定めるとθ=π/4

このときC':(3/2)X^2+(1/2)Y^2=1
∴C':X^2/(2/3) +Y^2/2=1

この楕円C'を原点中心に(-θ)だけ回転させたものが求める曲線


見づらい解答ですまん