もうしわけありません、問題文を写し間違えました。

a^2＋h^2=t^2（a、h、tは0より大きい実数）という従属関係があるとき、
f=a*h^2/(a＋t)^3の最大値はいくつか？

でした。