Выражаем (x^2+y^2) из 1 уравнения и подставляем во 2:
x^2+1-3xy+y^2=0;
(x^2+y^2)=3xy-1;
3(3xy-1)=13+xy;
8xy=16;
xy=2;
теперь система выглядит так:
x^2+1=y(3x-y); и xy=2;
x=2/y;
4/y^2+y^2=5;
y^4-5y^2+4=0;
делаем замену переменной:
t=y^2;
t^2-5t+4=0;
D=9; t1=4; t2=1;
y^2=4; y1=2; y2=-2;
y^2=1; y3=1; y4=-1;
x1=2/2=1;
x2=2/-2=-1;
x3=2/1=2;
x4=2/-1=-2;
получилось 4 решения;
Ответ: (1;2), (-1;-2), (2;1) и (-2;-1)