a^2 --- означает a в квадрате, здесь формула---квадрат суммы
знаменатель: (a+b)^2 + 2(a^2 + b^2) + (a-b)^2 = a^2 + 2ab + b^2 + 2a^2 + 2b^2 + a^2 - 2ab + b^2 =
= 4a^2 + 4b^2 = 4*(a^2 + b^2)
вся дробь 4a^2 / (4*(a^2 + b^2)) = a^2 / (a^2 + b^2)
а какое нужно тождество доказать --- не написано...