Находишь частные производные, составляешь систему нелинейных уравнений, приравнивая их к нулю, решаешь, находишь четыре пары решений. Это точки в которых возможно есть экстремум.
Составляешь матрицу из вторых частных проивзодных, подставляешь в нее найденные решения, проверяешь матрицу на знакоопределенность. Где положительно определена там минимум, где отрицательно - там максимум, где никак не определена - там надо применять необходимые условия экстремума второго порядка.
Должно получиться что в (0; 0) - минимум, в (-5/3; 0)-максимум, в двух других ничего.