f(x,y)=(2х+y+3)^2+(3x-2y+8)^2
Найдем частные производные
df/dx=2(2x+y+3)*2+2(3x-2y+8)*3=8x+4y+12+18x-12y+48=26x-8y+60
df/dy=2(2x+y+3)*1+2(3x-2y+8)*(-2)=4x+2y+6-12x+8y-32=-8x+10y-26
И приравняем их к нулю
26x-8y+60=0
-8x+10y-26=0
Первое уравнение умножим на 10, а второе на 8
260x-80y+600=0
-64x+80x-208=0
Сложим оба уравнения
196x+392=0
x=2
Определим y
26x-8y+60=0 =>26*2-8y+60=0 =>8y=8 =>y=1
Точка М(x; y)=M(2; 1) - Стационарная
Найдем вторые производные
A=d^2xdx^2=26
B=d^2x/dxdy=-8
C=d^2y/dy^2=10
Дискриминант = AC-B^2=260-64=196>0
То есть Дискриминант >0 и А>0, значит точка М(2;1)- точка минимума
В этой точке функция f(x;y) принимает значение
f(x,y)=(2х+y+3)^2+(3x-2y+8)^2=(2*2+1+3)^2+(3*2-2*1+8)^2=8^2+(12)^2=64+144=208