>(x^2−1)((x^2+1)^2−x^2)  

これは合ってる。

>これを解いていくと 答えは x^6+x^4−1 となります

ならんだろ。単なる計算ミスだ。
第二因子は (x^2+1)^2−x^2 = (x^4 + 2x^2 +1) -x^2 = x^4 + x^2 + 1 となる。
(x^2 - 1)(x^4 + x^2 + 1) を展開してみろ。(公式 (a-b)(a^2+ab+b^2)=a^3-b^3 を用いてももちろんよい)