y = a sinφ， x = a cosφとして
Ax cosφ - Ay sinφ = c a sinφcosφ + c a cosφsinφ
　　　　　　　　　　= 2 c a sinφcosφ
となったところで詰まりました。

回転については全く手が付けられません。
よろしければこの段階でご教示願いたいです。