Сразу подметим что: sin^2x+cos^2x=1
cosx+cos5x+2sin^2x= sin^2x+cos^2x
Переносим всё в левую часть
cosx+cos5x+2sin^2x-sin^2x-cos^2x=0
cosx+cos5x+sin^2x-cos^2x=0
Учтем что sin^2x можно варазить как (1-cos2x)/2 а cos^2x как (1+cos2x)/2
Получаем
cosx+cos5x+ ((1-cos2x)/2)-((1+cos2x)/2)=0
cosx+cos5x+((1-cos2x)/2)-1-cos2x/2=0
((1-cos2x)/2)-1-cos2x/2 - мы имее общий знаменатель значит можем вычесть и получим
cosx+cos5x-cosx=0
cos5x=0
cosx=0
x=п/2+пn, nэZ