Для этого надо найти корни производной этой функции.
Y'(X) = 0.
В этих точках экстремумы функции - максимумы или минимумы.
Далее выбрать корень в заданном интервале и подставить его в выражение для самой функции.
Не задана функция - нет и точного ответа.