Для начала найди произвудную:
y`=2x-10
Далее приравнвай к нулю
2x-10=0
x=5
На прямую наносишь 5 и получаешь иинтервалы: от минус бесконечности до 5 функция убывает, от 5 до плюс бесконечности возрастает, то есть экстремум - 5 на оси х. Подставляй 5 в исходную ффункцию и считай у:
5^2-10*5+9=у
у=25-50+9
у=-16
Экстремум, точка миниума функции, (5;-16)