наверное, так:
1) формула понижения степени: cos(2x) = 2cos^2(x) - 1.
2) 2cos - (2cos^2(x) - 1) - cos^2(x) = 0,
3cos^2(x) - 2cos(x) - 1 = 0;
3) решаем квадратное уравнение вида 3a^2 - 2a - 1 = 0, где a = cos(x)
получаем корни a=1 и a=-1/3.
a=-1/3 не подходит, так как косинус не может быть отрицательным
4) a = cos(x) = 1 => x=0
ответ: 0