Имеем систему {(x-1)(y-1)=2, {x+y=5; (поменяю местами, так просто лучше для решения) => {x=5-y, {((5-y)-1)(y-1)=2, решим уравнение:
((5-y)-1)(y-1)=2
(5-y-1)(y-1)=2
(4-y)(y-1)=2
4y-4-y^2+y-2=0
-y^2+5y-6=0; умножим на (-1)
y^2-5y+6; находим корни по теореме Виета:
y1+y2=5, y1=2
y1*y2=6, y2=3
Находим х (х=5-y), x1=5-2=3, x2=5-3=2 => y1=2, y2=3, x1=3, x2=2