Сколько различных наборов по 8 пирожных в каждом можно составить, используя 4 сорта...

Порядок вхождения пирожных в набор не имеет значения. Тогда, имеем комбинаторный объект, который называется сочетание с повторениями:
$n=4, m=8 \\ H^m_n=\frac{(n+m-1)!}{m!(n-1)!}=\frac{11!}{8!3!}=165$