Ну океееей:)
Давайте выразим из второго уравнения x. Мне лично так больше нравится.
xy=8
x=-y-3
y(-y-3)=8
-y^2-3y-8=0
Теперь давайте вспомним такую вещь как дискриминант
D=9-32=-23
К сожалению наш дискриминант меньше нуля. И я могу с уверенность сказать что ДЕЙСТВИТЕЛЬНЫХ корней нет у этого уравнения. А значит у системы уравнений тоже нет корней. Возможно в условии ошибка. Или поправьте мою ошибку, если я не прав.
P.S. Не сдавайтесь и учите математику:)