(a/b + b/a + 2)/(a+b)^2
после приведения к общему знаменателю первая скобка сворачивается как квадрат суммы и сокращается со второй
[(a^2 + 2ab + b^2)/ab]/(a+b)^2 = 1/ab после подстановки чисел получим разность квадратов
1/(√2-1)(√2+1) = 1/(2 - 1) = 1