＞４乗は２乗になおすまではあってるはずなんですが

これはa^2=Xなどと置き換えてもダメなタイプ。
(a^4-6a^2b^2+9b^4)-(a^2b^2) と分離すべし。