Чем помочь?
попробуйте в каждом из уравнений выделить полный квадрат двучлена, а потом сделать замену:
Например, в первом уравнении системы: x^2 - 2xy + y^2 - xy + y^2 = (x-y)^2 - y(x-y) = (x-y)*(x-2y) = 3
Во втором: x^2 + x^2 - 2xy - y^2 = (x-y)(x+y) + x(x-2y) = -6
Пусть x-y = t. Тогда х+y = t+2y
x - 2y = t-y.
Исходная система примет вид:
t(t-y) = 3
t(t+2y) + (t+y)(t-y) = -6
Выражайте у из первого уравнения и подставляйте во второе. Получите уравнение относительно одной переменной t (Примерно такое - проверьте внимательно знаки!):
4t^2 - 6 - (t^4-6t^2-9)/t^2 = -6
Дальше, надеюсь, понятно - как решать биквадратные уравнения, вас учить не надо)