Первое уравнение однородное. Делим его на y^2 и получаем квадратное уравнение относительно x/y. Решаем это уравнение и получаем два случая x/y=1/2 x/y=-2, откуда можно выразить одну переменную через другую: y=2x и x=-2y. Подставляем это выражение во второе уравнение и получаем квадратное уравнение относительно одной из переменных. Решаем его, а потом находим вторую переменную из условия подстановки. В результате может получиться от нуля до четырех решений, в зависимости от того сколько корней имеет это второе квадратное уравнение.
Отдельно надо убедиться, что y<>0, и мы можем делить на y^2.