Производная функция y=xcos3x равна
Y'=(x*cos(3x))'=1*cos(3x)+x*(cos(3x))'=cos(3x)+x*(-sin(3x)*3)=cos3x-3x*sin3x