Под корнем нужно выделить полный квадрат...
9+4V5 = 9+2*2*V5
предположим, что 2 --- первый член формулы, V5 --- второй...
проверим: (2+V5)^2 = 4+4V5+5 = 9+4V5 --- предположение верное...
из внутреннего корня извлечется 2+V5
17 - 8 - 4V5 = 9 - 4V5
рассуждения те же...
ответ: V5 - 2