Вычислить корень (5 - корень из 11)^2+(3 - корень из 11)^2. Все под корнем.
=25-2*5*√11+11 это квадрат первого выражения=36-10√11 9-6√11+11 это квадрат второго=20-6√11, найдем сумму =56-16√11