与えられた式
x'=xcosθ+ysinθ
y'=-xsinθ+ycosθ
に直接 cos^2θ+sin^2θ=1 は用いれない、じゃあどうすれば使えそうか考えろ

もう1個の方針として、与えられた2式を単純に x,y の連立方程式だと思って解いてみなさい