>>68
間違いがが多かったので全体的にやり直してみました

f(x,y)の２次のテーラー展開は
f(x,y)=f(a,b)+f_x(a,b)(x-a)+f_y(a,b)(y-b)
+(1/2)[f_xx(a,b)(x-a)^2+2f_xy(a,b)(x-a)(y-b)+f_yy(a,b)(y-b)^2]
+o((x-a)^2+(y-b)^2)と表せる。
このときf(x,y)が(a,b)で極値をとるにはf(x,y)-f(a,b)が(a,b)の
近くで定符号になればよいのでf_x(a,b)=0,f_y(a,b)=0が必要である。
ここで(x-a,y-b)=(rcosθ、rsinθ),A=f_xx(a,b),B=f_xy(a,b),C=f_yy(a,b)とすれば、
f(x,y)-f(a,b)=(r^2/2)[A(cosθ)^2+2B(cosθ)(sinθ)+C(sinθ)^2]+o(r^2)
=(r^2/2)[A(cosθ)^2+2B(cosθ)(sinθ)+C(sinθ)^2]+o(r^2)
=(r^2/2)(1/(1+(tanθ)^2))[A+2Btanθ+C(tanθ)^2]+o(r^2)
と表せる。したがってf(x,y)-f(a,b)の符号が(a,b)の近くで一定であるかは
A+2Btanθ+C(tanθ)^2のtanθを変数としたときの値を考えればよい。