везведев в квадрат 1 уравнение получим x-3 = y^2
так как y^2>0 тогда и |x-3|=y^2 .Подставим это во 2 уравнение получим
2*y^2 - y -1 =0
D= 1 - 4 * 2 * (-1) = 1+8 =9=3^2
y1=(1+3)/4 = 1
y2=(1-3)/4= 1/2
если y=1 то x-3 = 1 ==> x=4 ===> x*y = 1*4=4
если y=1/2 то x-3 = 1/4 ==> x=13/4 ===> x*y = 13/8