cos²x - 2cos x - 3 < 0
Замена: cos x = t, -1 ≤ t ≤ 1
t² - 2t - 3 < 0
t² - 2t - 3 = 0
Решения уравнения, согласно теореме Виета:
t₁ = -1
t₂ = 3
Решения неравенства: -1 < t < 3.
Учитывая требование -1 ≤ t ≤ 1, получаем: -1 < t ≤ 1.
-1 < cos x ≤ 1
x ≠ π + 2πn, n ∈ Z