X^2 - xy + y^2 = 3 |*5
2x^2 - xy - y^2 = 5 |*3
5x^2 - 5xy + 5y^2 = 15
6x^2 - 3xy - 3y^2 = 15 |(2)-(1)
x^2 + 2xy - 8y^2 = 0
Подставляя значение х = 0 и y = 0 в исходную систему, убеждаемся, что (0; 0) не является её решением. Поэтому можем почтенно разделить полученное уравнение на xy.
x/y + 2 - 8y/x = 0
Замена x/y = t, t <> 0
t + 2 - 8/t = 0 | *t
t^2 + 2t - 8 = 0
По теореме Виета: t1 = -4, t2 = 2.
При t = -4: x/y = -4 или x = -4y.
Подставляем в первое уравнение исходной системы:
(-4y)^2 - (-4y)*y + y^2 = 3
21y^2 = 3
y = (+/-) 1/sqrt7
x = (-/+) 4/sqrt7
При t = 2: x/y = 2 или x = 2y.
Подставляем в первое уравнение исходной системы:
(2y)^2 - 2y*y + y^2 = 3
3y^2 = 3
y = (+/-) 1
x = (+/-) 2
Ответ: (1/sqrt7; -4/sqrt7), (-1/sqrt7; 4/sqrt7), (1; 2), (-1; -2).