F(x,y)=x^2+y^2-9xy+27 найти точки экстремума

Функция "хорошая", так что экстремум может достигаться только там, где все частные производные равны нулю.

$\dfrac{\partial F}{\partial x}=2x-9y=0\\ \dfrac{\partial F}{\partial y}=2y-9x=0$

Решая систему, находим решение x = y = 0. Осталось понять, является ли эта точка точкой экстремума.

Сделать это можно, например, так. Заметим, что F можно переписать в следующем виде:
$F(x,y)=27-\dfrac74(x+y)^2+\dfrac{11}4(x-y)^2$
1. Рассмотрим прямую x + y = 0. На ней F(x, y) = 27 + 11/4 (x - y)², и в точке x = y = 0 у функции будет минимум.
2. Рассмотрим прямую x - y = 0. На ней F(x, y) = 27 - 7/4 (x + y)², и в точке x = y = 0 у функции будет максимум.

Если бы x = y = 0 была точкой экстремума, то для любого направления характер экстремума не менялся бы (был бы всегда минимум, или всегда максимум). В нашем случае это не так. Значит, x = y = 0 не является точкой экстремума.

Ответ. Точек экстремума нет.