Вероятность того, что из 3 выбранных учебников ни один не будет в переплете, равна отношению числа вариантов выбора 3 учебников без переплета из 15-5=10 учебников без переплета к общему числу вариантов выбора любых 3 учебников из 15:
Р(0)=С(3;10)/С(3;15), где
C(k;n)=n!/(k!(n-k)!) - число сочетаний из n по k.
Р(0)=(10!/3!(10-3)!)/(15!/(3!(15-3)!)) = 8*9*10/(13*14*15) = 0,264.
Вероятность того, что из 3 выбранных учебников хотя бы один будет в переплете, равна
Р(1)=1-P(0)=1-0,264=0,736.