5x^2+2xy-3y^2=4
перед тем как сделать группировку, попробуем сделать квадратное уравнение:
4x^2-4y^2+x^2+2xy+y^2=4
4(x^2-y^2)+(x+y)^2=4
4(x-y)(x+y)+(x+y)^2=4
(x+y)(4x-4y+x+y)=4
(x+y)(5x-3y)=4
x=2-y
10-5y-3y=2
-8y=-8
y=1
подставляем значение y и находим x:
x=2-y=2-1
x=1
Надеюсь всё понял, удачи