из выражения x+y=6 выразим х: х=6-у
подставим во второе: (6-у)^2+у^2=20
раскроем скобки: 36-12у+у^2+у^2-20=0
приведя подобные слагаемые получим:2y^2-12y+8=0
поделим обе части на 2: y^2-6y+8=0
решаем как обычное квадратное уравнение:
D=36-32=4
у1=(36-2)/2=17
у2=(36+2)/2=19
из этого следует что:
х1=6-17=-11
х2=6-19=-13
Ответ: (-11;17), (-13;19)