(cos5x) * (cos6x + 1) = cos6x +1
(cos6x + 1)*(cos5x-1) = 0
cos6x +1=0, cos6x = -1, 6x=pi+2pi*k
x=pi/6+ pi*k/3
cos5x - 1=0, cos5x = 1, 5x=2pi*k
x=2pi*k/5
Далее подставляете значения к (целые), ищите корни, которые лежат в интвервале (-3pi; +3pi), потом складываете их. Достаточно большой перебор получается, долго писать - попробуйте просто подставлять значения к!