f(x,y,z)=(x+y+z)(x^2+y^2+z^2)-x^3-y^3-z^3
=(x^2+y^2+z^2)
-(x+y+z)(x^2+y^2+z^2-xy-yz-zx)-3xyz
=(xy+yz+zx)-3xyz
y+z=1-xだから
((1-x)/2)^2≧yz≧0(∵相加相乗)でx固定すれば
=(1-x)x-3xyz+yz
=(1-3x)yz+(1-x)xより
x≦1/3ではyzが最大であればよく①
x≧1/3ではyzが最小②
②では
f≦(1-x)x≦1/4
(x=1/2,y=0,z=1/2)
①では
f≦(1-3x)(1-x)^2/4+(1-x)x
=(1-x)((1-x)(1-3x)+4x)/4
=(1-x)(3x^2+1)/4
4f'=6x(1-x)-(3x^2+1)
=-9x^2+6x-1で
=-(3x-1)^2よりx=1/3で最大よりf≦2/9(x=y=z=1/3)

比較して1/4で最大(x=1/2,y=0,z=1/2)(並び替え略)