x^5+1/x^5=(x^2+1/x^2)(x^3+1/x^3)-(x+1/x) と変形して、
x^2+1/x^2=3、x+1/x=±√5 と
x^3+1/x^3=(x+1/x)^3-3(x+1/x)=±5√5-3*(±√5)=±2√5 だから、

x^5+1/x^5=3(±2√5)-(±√5)=±5√5