『求める曲線上の点を(X,Y)とおくとき、(X,Y)の逆像(x,y)が
　x^2+y^2=1を満たすので、x=(X-2Y)/5、y=(X+3Y)/5からこれを代入して
　２X^2+2XY+13Y^2=25』
を逆像による解き方、と呼んでるっぽい。
これから想像するに順像による解法は、こんな感じか？

(x,y)は円x^2+y^2=1をうごくので、　x=(t^2-1)/(t^2+1)、y=2t/(t^2+1)と置くことができる。
このとき、X=3x+2y=(3(t^2-1)+4t))/(t^2+1)、Y=-x+y=(-(t^2-1)+2t)/(t^2+1)
この式からtを消去すると　２X^2+2XY+13Y^2=25

最後の式をどうやって求めるのか？どうやるんだろうね。