Пусть к1,к2,к3,к4,к5 -количества школьников в пяти классах. м1, м2 ...-количество задач придуманных школьниками соответствующих классов.
никакие мi - не равны между собой.
к1+к2+..+к5=30
к1*м1+...к5*м5=40
к1*(м1-1)+...к5*(м5 -1)=10
какое-то мi равно 1, сумма остальных не меньше чем 1+2+3+4=10
Значит количество школьников придумавших 2 задач, 3 задачи, 4 задачи и 5 задач равно 1 для каждого количества. Остальные 26 школьников учатся в одном классе и придумали по 1-й задаче.
Ответ: 26