行列の人数をx人
券売機一台が一分間にさばける人数をy人
一分間に行列に加わる人数をz人とする

条件１より x-20*5y+20z=0
条件2より x-15*6y+15z=0
条件3より (x-50)-10*7y+10z=0

あとは連立方程式をとけばいい
x=300 y=5 z=10

(1)は300人
(2)はt分で行列がなくなるとすると、300-10*5t+10t=0が成り立つのでt=7.5
で7分30秒。
だと思います。