xy=3; y=
Подставим в первое уравнение
x²+15-2*(

)²=-2
Сделаем замену
Пусть x²=t, тогда

=t², причём t>0
t²-13t-18=0
D=169+4*18=241

(не удовлетворяет условию t>0)
x²=t
x1=
x2=-
Странно. Получились некрасивые числа, возможно где-то сделала арифметическую ошибку, но суть, надеюсь, ясна.