Переносим все направо
0 = 3sin^2 x - 2sin x*cos x - cos^2 x
Очевидно, cos x не равен 0, иначе sin^2 x = 1; 3sin^2 x = 3.
Делим всё на cos^2 x.
3tg^2 x - 2tg x - 1 = 0
(tg x - 1)(3tg x + 1) = 0
x1 = arctg(1) + pi*n = pi/4 + pi*n, n € Z
x2 = - arctg(1/3) + pi*k, k € Z