здесь надо найти наибольшее значение x^2+y^2 а оно равна 6x+8y, следовательно 6x+8y должно быть наибольшим но оно очевидно принимает какие угодно значения не смотря свои переменные это линейная функция а как известно оно +oo