В общем виде такие системы решать - сплошное неудовольствие, так как результатом является общее уравнение 4 степени, которе школьными методами не решается, лучше всего численно.
ОДНАКО, для школьников такие системы составители предлагают с определёнными упрощениями, "изюминками", которые школьники должны увидеть, обнаружить, то есть проявить свои творческие наклонности и знание предметной области. Причём какждая система достаточно индивидуальна и решается своими методами. Посмотрим на эту систему с этой точки зрения.
Видно, что в левой части стоят "поломанные" квадраты суммы, попробуем их выделить.
3x^2+2xy+y^2=2x^2+x^2+2xy+y^2=2x^2+(x+y)^2=18
-x^2+4xy+2y^2=-3x^2+2x^2+4xy+2y^2=-3x^2+2(x^2+2xy+y^2)=-3x^2+2(x+y)^2=15
Уже лучше. Умножим первое уравнение на 2, получим систему
4x^2+2(x+y)^2=36
-3x^2+2(x+y)^2=15
Вычтем из 1 2
7x^2 = 21
x^2 = 3
x=+-sqrt(3)
Вот и всё, осталось найти у, например, из 1 уравнения
(х+y)^2=18-2x^2=18-2*3=12
(x+y)=+-2*sqrt(3)
y=+-2*sqrt(3)-x
Подставляя х, получим 4 решения
(sqrt(3),sqrt(3))
(sqrt(3),-3*sqrt(3))
(-sqrt(3),-sqrt(3))
(-sqrt(3),-sqrt(3))
Вот так просто всё получилось.
Можно было заметить ещё, что решения симметричные, то есть если (х,у) - решение, то (-х,-у) - тоже решение, и, следовательно, можно было найти только 2 разных решения, а остальные 2 получить по этой формуле. И т.д.
НО, повторюсь, каждая система такого типа решается по-своему, и единственный метод научиться их решать примитивен - нужно их решать как можно больше и тогда сразу будет всё видно.
Успехов.
Да, арифметику перепроверь, ну не силён я в арифметике, мог сделать ошибку.