Сначала найдём производную:
y*=(x^2(1-x)^2)*=(x^2)*(1-x)^2+x^2((1-x)^2)*=2x(1-x)^2+x^2*2(1-x)*(1-x)*=2x(1-2x+x^2)+x^2(2-2x)*(-1)=2x-4x^2+2x^3-2x^2+2x^3=4x^3-6x^2+2x
Теперь то, что получилось (жирный шрифт) приравниваем к нулю и решаем:
4x^3-6x^2+2x=0
x(4x^2-6x+2)=0
x=0; 4x^2-6x+2=0
2x^2-3x+1=0
D=(-3)^2-4*2*1=1
x1=1
x2=0.5
Дальше строим ось X и отмечаем точки в порядке возрастания.
Надеюсь вам знаком метод интервалов.
в результате получается, что Xмин = 0 и 1, а Xмах=0,5
Теперь подставляем в исходное уравнение (y=x^2(1-x)^2)
Yнаим=Y(0)=0^2(1-0)^2=0
Yнаиб=Y(0.5)=0.5^2(1-0.5)^2=0.25*0.25=0.0625
Ответ: Yнаим=0; Yнаиб=0,0625