Насколько я понял x и y независмые переменные (т.е. y - не функция от x), тогда:
найдем
в точке экстремума дифференциал должен быть равен 0
Находим точки подозрительные на экстремум:
Получаем решения
Теперь смотрим на матрицу второго дифференциала
Она отрицательно опрделенная, т.к. 0, \left|\begin{array}{ccc}12&-7\\-7&4\end{array}\right| = 48 - 49 = -1 < 0" alt="12 > 0, \left|\begin{array}{ccc}12&-7\\-7&4\end{array}\right| = 48 - 49 = -1 < 0" align="absmiddle" class="latex-formula">
Значит x=3, y=6 - точка экстремума, а точнее точка максимума