Переносишь единицу в левую часть. Далее делаешь замену переменных (cosx=t; при этом t принадлежит [-1;1]). И решаешь как обычное квадратное уравнение:
10сos^2(x)+3cosx-1=0
Замена
Если cosx=t, тогда cos^2(x)=t^2
И получаем:
10t^2+3t-1=0
D=49
t1=(-3+7)/20 = 4/20 = 1/5 = 0.2
t2 = -10/20 = -1/2 = -0.5
Текущие значения нас вполне устраивают, поэтом делаем обратную замену
cosx=1/5
x=+ - arccos(1/5)+2pi*n
cosx=-1/2
x=+ - arccos (-1/2)+2pi*n = + - pi/3 +2pi*n
Вроде так, но проверь еще вычисления в квадратном уравнении