Из первого уравнения
y = 1 + х
подставляем вместо Y во второе
X^2 + (X + 1)^2 = 41
X^2 + X^2 + 2X + 1 = 41
2 X^2 + 2 X - 40 = 0
квадратное уравнение, через дискриминант
D = b^2 - 4ac = 4 + 320 = 324 = 18^2
X = (- 2 + - 18) / 4
X1 = - 5
X2 = 4
Подставляем значение Х для выражения Y
Y1 = - 4
Y2 = 5