Это будут комплексные числа. Составим систему из двух уравнений:
x+y=2 -->x=2-y
xy=3
(2-y)y=3
y^2 -2y +3=0
D=-8, что меньше нуля. Отсюда и появляется мнимая часть.
Тогда если извлечь корни и найти с помощью полученных игриков иксы, получится пара чисел:
1+1.414i и 1-1.414i.