5x^2-2xy+y^2=43x^2-3xy+2y^2=2

$5x^2-2xy+y^2=4\\ 3x^2-3xy+2y^2=2\\ \\$
домножим второе уравнение на 2 , затем приравняем оба уравнения
$6x^2-6xy+4y^2=5x^2-2xy+y^2\\ x^2-4xy+3y^2=0\\ (y-x)(3y-x)=0\\ \left \{ {{y=x } \atop {3y=x}} \right. \\ \\ 5x^2-2x^2+x^2=4\\ 4x^2=4\\ x=+-1\\ y=+-1\\ 5*9y^2-2*3y*y+y^2=4\\ 40y^2=4\\ y=+-\frac{1}{\sqrt{10}}\\ x=+-\frac{3}{\sqrt{10}}$

то есть всего четыре корня