>>1
まず、円錐に内接する円柱の断面図を書く。

円柱の半径をr、高さをhとすれば、体積はhπr2

断面図で左下の点をを原点に取れば、hとrの間には、h=2(10-r) の関係がある。
hにこの式を代入するとrの3次関数になる。
これの極値を求めればいいので、これを微分してゼロになrを求めればいい。
r=0 または 20/3 という 値が出る。
0はあり得ないので、20/3