Действовать будем так: найдем производную функции по х и по у, приравняем их к 0, составим систему и найдем решение. Это решение будет стационарной точкой
стационарная точка - (0,4;2)
Далее необходимо определить характер этой самой точки - максимум это, или минимум.
Для этого составим матрицу из вторых производных и проверим ее главные миноры. Так как у нас функция 2 переменных, то матрица будет размерности 2*2, следовательно, главные миноры - это вторая производная по хх, и определитель всей матрицы. Если определитель матрицы положительный, то экстремум существует и его характер проверяется по знаку второй производной по хх, если отрицательный, то экстремума нет.
![W= \left[\begin{array}{cc}z''_{xx}&z''_{xy}\\z''_{yx}&z''_{yy}\end{array}\right] = \left[\begin{array}{cc}-10&0\\0&4\end{array}\right]](https://tex.z-dn.net/?f=W%3D++%5Cleft%5B%5Cbegin%7Barray%7D%7Bcc%7Dz%27%27_%7Bxx%7D%26z%27%27_%7Bxy%7D%5C%5Cz%27%27_%7Byx%7D%26z%27%27_%7Byy%7D%5Cend%7Barray%7D%5Cright%5D+%3D+%5Cleft%5B%5Cbegin%7Barray%7D%7Bcc%7D-10%260%5C%5C0%264%5Cend%7Barray%7D%5Cright%5D+ "W= \left[\begin{array}{cc}z''_{xx}&z''_{xy}\\z''_{yx}&z''_{yy}\end{array}\right] = \left[\begin{array}{cc}-10&0\\0&4\end{array}\right]")
Как видно, определитель матрицы меньше 0, поэтому глобального экстремума нет