Катер прошел 12км против течения реки и 5км по течению при этом он затратил столько...

Х км/ч - собственная скорость катера

$\frac{12}{x-3}+ \frac{5}{x+3}= \frac{18}{x} \\ \\ \frac{12}{x-3}+ \frac{5}{x+3}- \frac{18}{x}=0 \\ \\ 12x^2+36x+5x^2-15x-18x^2+54x-54x+162=0 \\ \\ -x^2+21x+162=0 \\ \\ x^2-21x-162=0$

По теореме Виета: х₁ = -6
х₂ = 27 км/ч - собственная скорость катера
х₁ = -6 - не удовлетворяет условию задачи, т.к. скорость отрицательной быть не может

Ответ: 27 км/ч