Предлагаю использовать метод перебора.
Если каждая девочка купила по 1 тетради, то мальчики купили 50-5=45. Но 45 не делится без остатка на 7.
Если девочка купила 2 тетради, то мальчики - 50-10=40, что ттоже не делится нацело на 7.
Если девочка купила 3 тетради, то мальчики - 50-15=35. 35/7=5
Значит девочки купили по 3 тетради, а мальчики по 5.