Чтобы дробь была =0, надо, чтобы выполнялись условия :
Cos2x - 3Cos x -1 = 0
2Sin x - 1 больше 0
Решаем уравнение.
2 Cos²x - 1 -3Cos x -1 = 0
2Cos² x -3Cos x -2 = 0
Cos x = t
2t² -3t -2 =0
D = 25
t = 2 t = -1
Cos x = 2(нет решения)
Сos x = -1/2
x = 2π/3 + 2πn,где n∈Z