Обозначим х-кол-во мужчин, у-кол-во женщин, z- кол-во детей
x+y+z=20, z=20-x-y
20x+5y+3z=137
17x+3x+2y+3y+3z=137, 17x+2y+3(x+y+z)=137, 17x+2y+3*20=137
17x+2y=137-60=77
17x+2y=77, y=(77-17x)/2
x может принимать следующие значения {1,2,3,4} больше 4 х принимать не может так как 17*5=85 и тогда количество женщин получится отрицательным. еще можно заметить что x может быть только нечетным так как нечетное число + четное =нечетное
значит х может быть = только 1 или 3
1) пусть х=1, y=(77-17x)/2=(77-17)/2=60/2=30 это значение не подходит так как всего в походе 20 человек
2) х=3, y=(77-17*3)/2=(77-51)/2=26/2=13, z=20-x-y=20-3-13=20-16=4
мужчин 3, женщин 13, детей 4
проверка
3+13+4=20 (верно)
3*20+13*5+4*3=60+65+12=137 (верно)