Здесь собственно говоря вам нужно почитать об одной известной формуле: "формула дополнительного угла". Сама формула:

Ваш ответ на вопрос: "Зачем мы вынести √(12^2+5^2)". Это для того, чтобы свести к синусу суммы двух углов, что собственно упростит нам найти наибольшее и наименьшее значения выражения с помощью двойного неравенства.

здесь для простоты обозначили
.
Известно, что синус изменяется на промежутке от -1 до 1, и тогда

Откуда наибольшее значение выражения — 6.