Я пробовал методом подастановки, целые корни тоже не получаются, можно еще так -надо из первого вычесть второе, получится
у - у² = -8
-у²+у+8=0
Д=1-4*(-1)*8=33
у₁ = (-1-√33)/-2
у₂ = (-1+√33)/-2
х выражаем из 1 ур-я получается х=(11-у)/(1+у) и надо у подставить