Для начала найдем саму функцию в стандартном виде. у=х - х^2. Теперь берем производную уже от этой функции: у'=1-2х. Критическая точка одна: х=0,5. Это точка максимума. Но она не входит в промежуток. Следовательно, на промежутке у максимальное будет при 1 у=0. у минимальное при х=3. у=-6.
Примечание. Если все же изначальная функция была y=1/2x^2-1/3x^3. То тогда к нулю приравниваем ее производную, т.е. у'=х - х^2. В этом случае кристические точки: х=0 и х=1. 0-точка минимума функции, 1- точка максимума. но 0 не входит в промежуток, значит у максимальное в точке х=1. у= 1/6. у минимальное в точке х=3, у= -4,5