выполним упрощение по действиям.
(x+y)² + (x-y)² = x² + 2xy + y² + x² - 2xy + y² = 2x² + 2y² = 2(x² + y²)
x/y + y/x = (x² + y²)/xy - здесь я сначала привёл обе дроби к одному знаменателю, затем нашёл их дополнительные множители и домножил на них числители дробей.
Теперь выполним последнее действие:
2(x² + y²) : (x² + y²)/xy = 2(x² + y²)xy / x² + y² = 2xy
2xy = 2(√7-1)(√7 + 1) = 2(7 - 1) = 2 * 6 = 12