Разделим область интегрирования на 2 части: [0;π/2] и [π/2;3π/2]
∫x²·sgn(cos(x))dx=∫x²dx на интервале [0;π/2] и
∫x²·sgn(cos(x))dx=-∫x²dx на интервале [0;3π/2]
∫x²dx=x³/3+C
1) ((π/2)³/3-0)=π³/24
2) -((3π/2)³-(π³/24))=(π³/24-27π³/24)=-26π³/24
Суммируем: -26π³/24+π³/24=-25π³/24.