Составим вспомогательную функцию Лагранжа:
L(X, λ) = x12-2*x22+4*x1*x2-6*x1-1 + λ*(x1+x2-3-0)
Необходимым условием экстремума функции Лагранжа является равенство нулю ее частных производных по переменным хi и неопределенному множителю λ.
Составим систему:
∂L/∂x1 = 2*x1+4*x2+λ-6 = 0
∂L/∂x2 = 4*x1-4*x2+λ = 0
∂L/∂λ = x1+x2-3 = 0
Решив данную систему, получаем стационарные точки X0.
X0=(1.8; 1.2), λ = -2.4