нужно числитель и знаменатель дроби умножить на корень2*(корень3+корень5):
3кор2*(кор3+кор5) 3кор2*(кор3+кор5) 3кор2*(кор3+кор5)
---------------------------------------------- = ------------------------------------ = ---------------------------- =
кор2*(кор3-кор5)(кор2*(кор3+кор5) 2*(3-5) -4
-3(кор2*кор3+кор5)/4