Обозначим количество монет 10 копеек как x, количество монет в 3 копейки как y.
10x+3y=800
Решаем это как диофантово уравнение. Одно из решений - x = 80, y = 0. Тогда:
x = 80 - 3n, y = 0 + 10n, 0<=n<=26. Всего доступных значений n 27, а значит, всего 27 способов.<br>Буду рад, если отметишь ответ лучшим.