Х=8\у
подставим
(8\у)²+у²=20
64/у²+у²=20 домножим на у², чтобы избавиться от знаменателя
64+у4=20у²
у4-20у²+64=0
пусть а=у²
тогда
а²-20а+64=0
д=400-256=144 √д=12
а1=(20+12)\2=16
а2=(20-12)\2=4
подставим у²=16
у=4;-4
у²=4
у=2;-2
ну и во второе уравнение подставь игрики и найдешь иксы