そうか、高校生でも出来ないのか
中学で不等式をきちんと教えないもんな…
まずとっかかりとしては、等号使って表せるものと、不等号使ってあらわせるものを区別するといいかもしれん
いきなり一つの式で済ませる自信がないなら、かなり回りくどいやり方だが以下のようにやってみると納得がいくのではなかろうか。

大箱ｘコ　小箱ｙコとすると

箱の数の条件から
ｘ+ｙ＝27　（これは等号であらわせる）

そのときに箱に入るビデオの最大数Mは
M＝40ｘ+25ｙ　（これも等号であらわせる）

950本のテープがおさまらなければならないので
M≧950（ここで不等号が出てくる）

あとは、大箱の数ｘが知りたいわけだから、ｙとMを消去していけば出るはず。