Первый способ - без упрощения.
y'=6*sin⁵10x*cos10x * 10 + 6*cos⁵10x*(-sin10x)*10 =
60sin⁵10x*cos10x - 60cos⁵10x*sin10x.
Можно упростить y=(sin²10x+cos²10x)(sin⁴10x-sin²10x*cos²10x+cos⁴10x) =
1*(sin⁴10x+2sin²10x*cos²10x+cos⁴10x -3sin²10x*cos²10x) =
=(sin²10x+cos²10x)²-3* 1/4*4sin²10x*cos²10x=
1-3/4*(sin20x)².
y' = 0-3/4 * 2 sin20x*cos20x *20 = -15sin40x. Вроде бы так.