Из второго
xy(x²+y²)=10 подставляем значение из первого у-я
5xy=10
y=2/x
подставляем у в первое
x²+(2/x)²=5
x²+4/x²=5
(x⁴+4)/x²=5
x⁴+4=5x²
x⁴-5x²+4=0
биквадратное у-е. обозначим z=x²
z²-5z+4=0
D=25-4*4=9
z₁=(5-3)/2=1
z₂=(5+3)/2=4
x₁=1 x₂=-1 x₃=2 x₄=-2
y₁=2 y₂=-2 y₃=1 y₄=-1