f(θ)=a*(cosθ)^2+(a+b)*cosθ*sinθ-b*(sinθ)^2を考える。
f(θ)の最大値が7+√6、最小値が7-√6のとき(I)a+b>0の場合(II)a+b<0の場合の定数a,bを求めよ。
ここまでといたのですがπ/8、5π/8の処理の方法がわからず先に進めません。
f'(θ)=-√2*(a+b)*sin(2θ-4π)
よって極小5π/8,極大π/8