Пусть х - первоначальное кол-во книг на каждой полке. Тогда после перестановки на первой стало (х-5) книг, а на второй - (х+5) книг, что по условию - в 3 раза больше чем на первой. Имеем уравнение:
3(х-5) = х + 5
3х - 15 = х + 5
2х = 20
х = 10
Ответ: по 10 книг было первоначально.