Проверь не ошибся ли, а то подсчет довольно муторный тут, начерти если что
y=a(cos4x-5)
y'=-4a*sin4x
параллельна биссектрисе второй координатной четверти - y=-x; то есть тангенс угла наклона равен -1
y(pi/3)=-4a*sin(4pi/3)=2sqrt(3)a
2sqrt(3)a=-1 => a=-sqrt(3)/6