Переходим к функциям от одиночного аргумента
8cos^2 x + 2sin x*cos x = 3cos^2 x + 3sin^2 x + 2cos^2 x - 2sin^2 x
Переносим все направо
0 = sin^2 x - 2sin x*cos x - 3cos^2 x
Делим все на cos^2 x
tg^2 x - 2tg x - 3 = 0
(tg x + 1)(tg x - 3) = 0
tg x = -1; x1 = -pi/4 + pi*k
tg x = 3; x2 = arctg(3) + pi*n