Смотря для какого класса ---можно и с помощью производной...
1.уравнение оси симметрии параболы: x = -b/(2a)
вершина параболы находится на оси симметрии...
т.е. ее абсцисса = -10/-10 = 1
2.подставить найденный х в уравнение и вычислить у (это и будет максимум...)
-5*1+10*1-3 = 10-8 = 2