из условий задачи следует система уранений (v - искомая скорость, t1 - время туда, t2 - время обратно)
(v-40)*t1 = 20 км
(v+40)*t2 = 20 км
t1+t2 = 1.2 часа
====>
t1=20/(v-40)
(v+40)*(1.2-t1)=20
====>
(v+40)*(1.2- 20/(v-40) ) =20
====>
1.2v^2-40v-1920=0 - решаем это квадратное уравнение, положительный корень равен v=60 - это и есть ответ, отрицательный v=-80/3 не подходит