а) из трех книг надо взять 1 словарь и 2 художественные:
С1 и снизу 1=Р1=1!=1 (способ)
2 художественные из 11 художественных:
С2 и снизу 11 = 11!/2!(11-2)!=55 (способов)
1 словарь и 2 художественные книги:
С1 и снизу 1*С2 и снизу 11=1!*11!/2!(11-2)!=1*11/2!9=55(способов)
б) если словарь не нужен:
С3 и снизу 11 = 11!/3!(11-3)!=11/3!8!=165(способов)
Ответ: а) 55. б)165