(х+у)^2=х+у; 1 и 0 возведенная в степень могут быть равны самим себе, значит х+у=1 или х+у=0; х=1-у или х=-у;
преобразуем второе уравнение:
(х^2 *у^2+2ху+1)-1=3;
(ху+1)^2-4=0;
(ху+1-2)(ху+1+2)=0;
(ху-1)(ху+3)=0;
ху=1 и ху=-3;
подставляем значение во второе уравнение :
1) у(1-у)=1; у(1-у)=-3;
у-у^2=1; у-у^2=-3;
2) -у^2=1 не имеет смысла, потому что после равно должен быть отрицательное число...
-у^2=-3; у=3^1/2, х=-(3^1/2).
дальше я не знаю, но может быть это будет тебе полезно...