(x^2-2xy+y^2)+(y^2-4+4/y^2)=0; => (x-y)^2+(y-2/y)^2=0.
Сумма двух неотрицательных чисел равна нулю тогда и только тогда, когда эти числа равны нулю, т.е. получим систему из двух уравнений:
x-y=0, y-2/y=0; => x=y, (y^2-2)/y=0; => y=-sqrt(2), x=-sqrt(2),или y=sqrt(2), x=sqrt(2)
sqrt - это квадратный корень!