Возведём первое уравнение в квадрат.
x² + 2xy + y² = 4a² - 4a + 1
Заменим x²+y²=a²+2a-3
2xy=4a²-4a+1 - a²-2a+3
xy=(3a²-6a+4)/2
Квадратный трехчлен 3а²-6а+4=3·(a²-2a+1)+1=3·(a-1)²+1
принимает наименьшее значение при а=1.
значит и произведение ху принимает наименьшее значение при а=1
От в е т. а=1