Верхнее уравнение - квадрат разности. Из нижнего можно выразить одну из переменных и вставить в верхнее уравнение ;)
√x= 5- √y
(√x-√y)^2= 9
(5-2√y)^2=9
1){5-2√y= 3
2√y=2
√y= 1
y=1
2){5-2√y=-3
2√y=8
√y=4
y=16
Теперь подставляем y в уравнение для проверки:
1) 1 + √x= 5
√x= 4
x=16
2) 4+ √x= 5
√x=1
x=1
Ответ: (16;1) ; (1;16)