Приношу извинение за неправильное решение, даю теперь точное.
x+2y=8
x^2-3y=-5
x=8-2y
(8-2y)^2-3y+5=0
(8-2y)^2=8^2-2*8*2y+2y^2=64-32y+4y^2
64-32y+4y^2-3y+5=0
4^2-35y+69=0
a=4; b=-35; c=69
D=(-35)^2-4*4*69=1225-1104=121
√D=√121=11
y1=(35-11)/2*4=24/8=3
y2=(35+11)/2*4=46/8=5(3/4)
Дальше подставляешь в это уравнение - x=8-2y, вместо Y эти два числа (по очерёдности):
x1=8*2*3=2
x2=8-2*5(3/4)=-3(1/2)
Ещё раз прошу прощения!