Y'=(x⁵+5x³-20x)'=5x⁴+15x²-20
y'=0, 5x⁴+15x²-20=0, x⁴+3x²-4=0. биквадратное уравнение.
обозначим х²=t, t>0
t²+3t-4=0
t₁=-4 не подходит
t₂=1 обратная замена
x²=1, x₁=-1, x₂=1. х=1∉[-5;0]
y(0)=0
y(-5)=(-5)⁵+5*(-5)³-20*(-5)=-3125-625+100=-3650
y(-1)=(-1)⁵+5*(-1)³-20*(-1)=14
у наибольшее=14