Sin^2 x + cos^2 x - 3cos^2 x - 5cos x = 0
1 - 3cos^2 x - 5cos x = 0
3cos^2 x + 5cos x - 1 = 0
Получили квадратное уравнение относительно cos x
D = 5^2 - 4*3(-1) = 25 + 12 = 37
cos x1 = (-5 - √37)/6 < -1 - не подходит
cos x2 = (-5 + √37)/6 < 1 - подходит
x = +-arccos((-5 + √37)/6) + 2pi*k