Про первый интеграл Вам уже подсказали.
Подсказка: согласно формулам тригонометрии:
cos(x+y) = cosx*cosy - sinx*siny
Значит
cos3x = (cosx)^3 -cosx*(sinx)^2 - 2cosx*(sinx)^2
Используя то, что sinxdx = -d(cosx), cosxdx = d(sinx), Вы легко вычислите этот интеграл