пусть х км/ч - скорость течения реки, тогда 80/ (10+х) ч - время, которое затратил катер по течению реки,
80/ (10-х) км - время, за которое прошел катер против течения реки, а т.к. сделал остановку 1ч20мин=4/3 часа и на все он потратил 10 и 1/3 часа=31/3 часа, то
80(10-x) + 80(10+x) - 9(100-x^2)=0
800-80x+800+80x-900+9x^2=0
9x^2+700=0
как-то так, а дальше тупик? Может кто подскажет? Вообще в таких задачах должно получиться квадратное уравнение, положительный корень которого и будет ответом.