>>61
すみません。失礼しました。
>>56は無視してください。

(1)のf(x,y)=x^(1/6)y^(2/5)が凹関数か凸関数か、あるいは「どちらでもない」かについて
ご教授お願いしたいです。

自分はとりあえずfxxとfyyとfxyを出してみました。
その上で、fxx<0と判断したあと
fxx*fyy - (fxy)^2が>0なのか<0のかやってみようとして当てはめてみました。
そして1/30x^(-5/3)y^(-6/5)-1/225x^(-5/3)y^(-4/5)となりました。
これはyの指数が異なっいるのですが、計算のやり方がわかりません(ノTДT)ノ
これはのどうやって<0か>0か判断するのでしょうか?