Обожаю такие задачи! Тут самое трудное - избавиться от xy.
Для этого введем новые переменные:
x = u*cos a + v*sin a
y = u*sin a - v*cos a
Здесь а - это угол поворота осей координат, u и v - новые оси.
-2(u*cos a + v*sin a)^2 -4(u*cos a + v*sin a)(u*sin a - v*cos a) -
- 3(u*sin a - v*cos a)^2 + 2(u*cos a + v*sin a) + 3(u*sin a - v*cos a) - 4 = 0
-2(u^2*cos^2 a+2uv*sin a*cos a+v^2*sin^2 a) -
- 4(u^2*sin a*cos a+uv*sin^2 a-uv*cos^2 a-v^2*sin a*cos a) -
- 3(u^2*sin^2 a-2uv*sin a*cos a+v^2*cos^2 a) +
+ 2u*cos a + 2v*sin a + 3u*sin a - 3v*cos a - 4 = 0
u^2*(-2cos^2 a - 4sin a*cos a - 3sin^2 a) +
+ v^2*(-2sin^2 a + 4sin a*cos a - 3cos^2 a) +
+ uv*(-4sin a*cos a - 4sin^2 a + 4cos^2 a + 6sin a*cos a) +
+ u*(2cos a + 3sin a) + v*(2sin a - 3cos a) - 4 = 0
Коэффициент при uv приравниваем к 0, решаем уравнение, находим а.
-4sin a*cos a - 4sin^2 a + 4cos^2 a + 6sin a*cos a = 0
-4sin^2 a + 4cos^2 a + 2sin a*cos a = 0
Делим все на -2cos^2 a
2tg^2 a - tg a - 2 = 0
D = 1 - 4*2*(-2) = 17
tg a1 = (1 - √17)/4~-0,78; a1~142° > pi/2 - не подходит.
tg a2 = (1 + √17)/4~1,28; a2~52° < pi/2 - подходит (берем меньший угол).
Получили:
tg a = (1 + √17)/4;
1 + tg^2 a = 1 + (1+2√17+17)/4 = 1 + (9+√17)/2 = (11+√17)/2 = 1/cos^2 a
cos^2 a = 2/(11+√17) = 2(11-√17)/(121-17) = (11-√17)/52
cos a = √(11-√17)/√52 = √(11-√17)/(2√13) = √[13(11-√17)]/26
sin^2 a = 1 - cos^2 a = 1 - (11-√17)/52 = (41+√17)/52
sin a = √[13(41+√17)]/26
Вернемся к начальному тригонометрическому уравнению
-4sin^2 a + 4cos^2 a + 2sin a*cos a = 0
4cos 2a + sin 2a = 0
tg 2a = -1/4
1 + tg^2 (2a) = 1 + 1/16 = 17/16 = 1/cos^2 (2a)
cos^2 (2a) = 16/17
sin^2 (2a) = 1 - cos^2 (2a) = 1 - 16/17 = 1/17
sin 2a = 2sin a*cos a = 1/√17 = √17/17
Подставляем все это в уравнение с u и v:
u^2*(-2*(11-√17)/52 - 2sin 2a - 3*(41+√17)/52) +
+ v^2*(-2*(41+√17)/52 + 2sin 2a - 3*(11-√17)/52) +
+ u*(2*√(143-13√17)/26 + 3*√(533+13√17)/26) +
+ v*(2√(533+13√17)/26 - 3*√(143-13√17)/26) - 4 = 0
u^2*(-2*(11-√17)/52 - 2√17/17 - 3*(41+√17)/52) +
+ v^2*(-2*(41+√17)/52 + 2√17/17 - 3*(11-√17)/52) +
+ u*(2*√(143-13√17)/26 + 3*√(533+13√17)/26) +
+ v*(2√(533+13√17)/26 - 3*√(143-13√17)/26) - 4 = 0
Если посчитать это все на калькуляторе, то получится примерно так:
-3,35u^2 - 1,65v^2 + 0,77u + 0,69v - 4 = 0
Умножаем все на -100
335u^2 + 165v^2 - 77u - 69v + 400 = 0
335(u^2 - 2*u*77/670 + (77/670)^2) - 335*(77/670)^2 +
+ 165(v^2 - 2*v*69/330 + (69/330)^2) - 165*(69/330)^2 + 400 = 0
335(u - 77/670)^2 + 165(v - 69/330)^2 = 4,42 + 7,21 - 400 = -388,37
(u - 77/670)^2 / (165*388,37) + (v - 69/330)^2 / (335*388,37) = -1
Слева стоит сумма квадратов, а справа -1.
Это уравнение не имеет решений и не соответствует никакой кривой.
Видимо, в задании есть опечатка. На это также указывает угол поворота.
Обычно угол поворота бывает табличный, например, pi/4, pi/3 или pi/6.