Из первого
xy(x^2+y^2)=10
вместо скобок подставляем второе
xy*5=10
x=2/y
Подставляем x во второе
4/y^2 + y^2 = 5
(4 + y^4 - 5*y^2)/y^2 = 0
Берём числитель как биквадратное уравнение
делаем подстановку
a=y^2
получаем
a^2 - 5a + 4 = 0
решаем
a1=1
a2=4
возвращаемся к иксу
x1=1
x2= -1
x3=2
x4= -2
находим игреки
y1=sqrt(5-1^2)=2 или -2
y2=sqrt(5-(-1)^2)=2 или -2
y3=sqrt(5-2^2)=1 или -1
y4=sqrt(5-(-2)^2)=1 или -1
Ответ: (1;2) (1;-2) (-1;2) (-1;-2) (2;1) (-2;1) (2;-1) (-2;-1)