>>549
>0=y*(第一式)-x*(第二式)=(b-a)xyだからx=0またはy=0

その発想は自分にはなかったです。
その方法ならx=0またはy=0は確実に判りますね。

さて、判別式D=(fxx)(fyy)-(fxy)^2を計算機で計算させようとしたところ、
とんでもなく長くなってしまいました。
しかも、(x,y) = (0,0)と入れたところ、0が返ってきました。
ヘッシアンHが0になるということは、
2階の偏導関数だけでは極値の判定ができないそうで…

ということで、残念ながら、どうか今回は諦めさせてください。
今の自分にはどう考えても無理です。
もう少し賢くなったときにまた解いてみます。
申し訳ございません、そして、ありがとうございました！