1.х^2+у^2=2,5ху =>х^2+у^2-2xy=2,5ху-2xy, (x-y)^2=0,5xy
х-у=0,25ху
2. (x-y)^2=0,5xy => xy=8 =>x=8/y
х-у=0,25ху
3. 8/y -y=2, y^2+2y-8=0 -> теорема Виета: y1=-4; y2=2. Подставляем полученные значения в x=8/y и получаем
х1=-2;х2=4
Ответ: x1=-2, x2=4
y1=-4, y2=2