Всего выбираем 4 книги из 11, количество вариантов:
При этом 2 из них должны быть по математике (то есть, надо выбрать 2 книги из 6 книг по математике), а ещё 2 книги должны быть по другим предметам (а таких книг всего 5, поэтому выбираем 2 книги из 5), количество вариантов:
Вероятность: