Сначала разберёмся с дробью:
числитель = 1-tg²x = 1 - Sin²x/Cos²x =(Cos²x - Sin²x)/Cos²x
знаменатель = 1 + tg²x = 1 + sin²x/Cos²x = (Sin²x + Cos²x)/Cos²x= 1/Cos²х
сама эта дробь = Cos²x - Sin²x
теперь наше уравнение:
Cos²x - Sin²x = √3/2 Cos x - Sin²x
Cos²x - √3/2 Cos x = 0
Cos x(Cos x - √3/2) = 0
Cos x = 0 или Cos x - √3/2 = 0
x = π/2 + πk , k ∈ Z Cos x = √3/2
x = ± π/3 + 2πn , n ∈Z