5sin^2 x - 14sin x*cos x - cos^2 x = 2sin^2 x + 2cos^2 x
3sin^2 x - 14sin x*cos x - 3cos^2 x = 0
Делим все на cos^2 x
3tg^2 x - 14tg x - 3 = 0
Квадратное уравнение относительно tg x
D/4 = 7^2 - 3(-3) = 49 + 9 = 58
tg x1 = (7 - √58)/3 = -(√58 - 7)/3; x1 = -arctg((√58 - 7)/3) + pi*k
tg x2 = (7 + √58)/3; x2 = arctg((7 + √58)/3) + pi*n