cделаем замену
√x=t>=0 , √y=z>=0
тогда данная система перепишется в виде
t+z=5
zt^2+tz^2=30
или
t+z=5
zt(z+t)=30
или
t+z=5
zt=6
2+3=5
2*3=6
по теореме обратной к теореме Виета корнями системы
t+z=5
zt=6
есть пары (2;3) и (3;2)
возвраясь к замене находим что корнями данной системы есть пары
(4;9) и (9;4)