Преобразуем отдельно первое слагаемое:
8sinx*cos^3x=4sin2x*cos^2x=4sin2x*(1+cos2x)/2=(4sin2x+4sin2xcos2x)/2=2sin2x+sin4x.
Вернемся к выражению:
2sin2x+sin4x-2sin2x-2cos^2x+1=0
sin4x-2cos^2x+1=0
sin4x-2cos^2x+cos^2x+sin^2x=0
sin4x-cos^2x-cos^2x+cos^2x+sin^2x=0
sin4x-cos^2x+sin^2x=0
sin4x-(cos^2x-sin^2x)=0
sin4x-cos2x=0
cos2x=2cos2xsin2x
Делим на cos2x обе части
1=2sin2x.
Все, просто тригонометрическое уравнение, решение его:
x=pi*n+pi/12
x=pi*n+5pi/12.