Заданную функцию у= √(20-8х-х²) возведём в квадрат:
у²= 20-8х-х².
В правой части выделим полный квадрат.
у²= -16-8х-х²+36,
у²= -(х+4)²+6².
(х+4)²+у² = 6².
Получили уравнение окружности в положительной полуплоскости с центром в точке (-4;0) и радиусом 6.
Максимальное значение функции находится при значении аргумента, совпадающего с центром окружности.
у = -(-4+4)+6 = 6.