Гоша все верно написАл. Я немного поясню.
Из второго уравнения
1/x^2 = 1 - y^2;
x^2 = 1/(1 - y^2); подставляю в первое
1/(1 - y^2) + 1/y^2 = 3;
y^2 + 1 - y^2 = 3*y^2*(1 - y^2);
y^4 - y^2 + 1/3 = 0; это - биквадратное уравнение, подстановкой z = y^2 получается простое квадратное
z^2 - z + 1/3 = 0; вещественных решений у этого уравнения нет. Проще всего это показать так - можно добавить и вычесть 1/4
z^2 - z + 1/4 - 1/4 + 1/3 = 0;
(z - 1/2)^2 + 1/12 = 0; ясно, что слева стоит число больше 0 при любых z, поэтому вещественных решений нет.