х + у = 12
x^2 * 2y = max
2x^2(12 - x) = max
Берем производную.
48x - 6x^2 = 0
х = 8
у = 4
Т. е. функция х^2*2(12-х)
производная 48х-6х^2
нули производной 0 и 8
наибольшее значение достигается при х=8 ( 0-точка минимума, её не рассматриваем как вариант решения)
ответ числа 8 и 4.