x^2+y^2=28 (1)
x^2+xy+y^2=5 (2)
вычитаем (2)-(1)
x^2+xy+y^2-x^2-y^2=5-28 xy=-23 x=-23/y подставляем в (1) вместо x
(-23/y)^2+y^2=28
529/y^2+y^2=28
(y^4-28y^2+529)/y^2=0 y<>0 t=y^2
t^2-28t+529=0
D=b^2-4ac=28^2-4*1*529=784-2116 < 0
Дискриминант меньше 0 решений в действительных корнях нет