#2 Воспользуемся формулой дифференциирования сложной функции y=f(g(x)), y'=f'(g(x))*g'(x).
Для вашей функции получаем y'=2(x^2 + 4x + 1)*(2x+4) = 4(x+2)(x^2+4x+1)
#3 Просто нужно продифференциировать функцию два раза:
y'=10x^4 первая производная. y'' = 40x^3 - нужная вам вторая производная.