У ученика из 11 учебников 2 учебника по математике. Сколькими способами он может выбрать...

Не правильный у Вас ответ..
порядок книг в комплекте не имеет значения, сосчитаем комплекты с двумя учебниками по математике+ еще ..
два учебника по математике в каждом комплекте...
два из двух можно выбрать $C_{2}^{2}=1$
и еще добрать 4 учебника из оставшихся 11-2=9 $C_{9}^{4}=126$
а, ну и правило умножения.. 1*126=126
Ответ: 126 (при условии, что остальные 9 учебников различны..)