(1)です

cos2θ-3cosθ
=2cos^2θ-3cosθ-1
θ=π／2代入
=2cos^2*π／2-3cos*π／2-1
cosπ／2=cos45°=1／√2より
=2(1／√2)^2-3(1／√2)-1
=4-3／√2-1
=3-3／√2
=6-3√2／2

こうなります。。