По течению реки катер проходит 36км за 1ч 30мин, а против течения реки 48км за 3ч....

V=S/t, где V — скорость, S — расстояние, t — время.
1 ч. 30 мин. = 1,5 ч.
36/1,5=24 (км/ч) — скорость катера по течению.
48/3=16 (км/ч) — скорость катера против течения.
Пусть x км/ч — собственная скорость катера, y км/ч — скорость течения реки.
Тогда x+y=24 — скорость катера по течению, x-y=16 — скорость катера против течения.
$\left \{ {{x+y=24} \atop {x-y=16}} \right. \left \{ {{x=24-y} \atop {x-y=16}} \right. \left \{ {{x=24-y} \atop {24-y-y=16}} \right. \left \{ {{x=24-y} \atop {-2y=16-24}} \right. \left \{ {{x=24-y} \atop {-2y=-8}} \right. \left \{ {{x=24-y} \atop {y=-8/-2}} \right. \left \{ {{x=24-y} \atop {y=4}} \right. \left \{ {{x=24-4} \atop {y=4}} \right. \left \{ {{x=20} \atop {y=4}} \right.$
Ответ: 20 км/ч.