Преобразуем функцию, раскрыв скобки:
у = х³ - 6х² + 5
Наибольшее значение возможно в крайней точке или в точке, где производная равна 0.
(х³ - 6х² + 5)' = 3х² - 12х
3х² - 12х = 0
3х (х - 4) = 0
х = 0; х = 4 (∅)
При х = -1:
-1 - 6 + 5 = -2
При х = 0:
0 - 0 + 5 = 5
При х = 2:
8 - 24 + 5 = -11
Ответ: 5