Cos(2x)=2cos^2(x)-1,
cos(3x)=4cos^3(x)-3cos(x),
подставляем и получаем
32cos^6(x)-40cos^4(x)+12cos^2(x)-1=0.
Обозначим z=2cos^2(x), тогда
4z^3-10z^2+6z-1=0.
Теперь простой подстановкой угадываем 1-й ответ: z=1/2, значит
(2z-1)(2z^2-4z+1)=0.
Значит,
z1=1/2, z2=1+Sqrt[1/2], z3=1-Sqrt[1/2