>>116
(a^2+b^2-1)^2-4a^2b^2 から展開するとやりにくいと思います。
4a^2b^2 は(なにか)^2だから、二乗の差で因数分解できます。
そこから、突破口が開けます。