Логично, что кол-во монет должно быть чётным и кол-во монет больше 10.
Задача решается методом перебора.
Начнем с 12, 12*10=120;12*5=60 120+60=180, не подходит
Берем 14, 14*10=140, 14*5=70 140=70=210
Берем 16, 16*10=160, 16*5=80 160=80=240
Ответ: 16 монет по 5 рублей