Выразим y через x:
y = 2 - x
и подставим его в многочлен:
(2-x)^2 - 11x (2-x) + (2-x)^2 + 2x + 4(2-x) + 10 = 13 x^2 - 26 x + 22
Получился квадратный трёхчлен, т.е. уравнение параболы, оси которой направлены вверх, а её вершина имеет минимальное значение в точке
x0= -b/(2a)
У нас a = 13; b = -26;
Вычисляем: x0 = - (-26)/(2*13) = +1;
Значит, y = 2- x = 1;
Вот при таких значениях x=1 и y=1 искомый многочлен принимает наименьшее значение.