если с иксом:
Пусть х книг было на нижней полке, тогда на верхней - 3х.
Складываем уравнение:
3х-15 = х+11
3х-х = 11+15
2х = 26
х = 26/2
х = 13 (кн.)- на нижней полке.
13*3 = 39 (кн.)- на верхней.
Проверяем:
39-15 = 13+11 = 24
Ответ: 39 книг было на верхней полке и 13 книг - на нижней.