Перевяжем, условно, три выбранные книги бечевкой. Теперь перед нами стоит задача расставить на полке 5 предметов по 5 местам. Это можно сделать 5! способами.
Теперь в каждой из расстановок развязываем бечевку и начинаем тасовать три выбранные книги между собой. 3 предмета по 3 местам можно расставить 3! способами.
Окончательное число способов расстановки: N = 5!·3! = 120·6 = 720.