Рассмотрите такой вариант:
1) Вместо "х" подставьте в правую часть "-х":
f(-x)=(-x)⁵*cos(-3x)
Избавьтесь от минусов в чётных степенях и четных тригонометрических функциях (такие есть в примере).
2) Вынесите все минусы вперёд:
f(-x)= -x⁵*cos3x
3) если получилось, что f(-x)=-f(x), то перед нами нечётная функция.
В нашем случае так и есть: f(-x)= -(x⁵*cos3x).