Х -- собственная скорость катера
время в пути по озеру (18/х) часов,
время в пути по течению реки (5/(х+3)) часов,
время в пути против течения реки (12/(х-3)) часов.
18/х = (5х-15+12х+36)/((х+3)*(х-3))
18(x^2 - 9) = x(17x + 21)
18x^2 - 18*9 - 17x^2 - 21x = 0
x^2 - 21x - 18*9 = 0
по т.Виета корни (-6) и (27)
собственная скорость катера 27 км/час
ПРОВЕРКА:
время в пути по озеру 18/27 = 2/3 часа
время по течению реки 5/30 = 1/6 часа
время против течения реки 12/24 = 1/2 часа
(1/6) + (1/2) = (1/6) + (3/6) = 4/6 = 2/3