Нужно решить интеграл методом непосредственного интегрирования.
разделим числитель на знаменатель, получим
(3х²*(х²+1)/(х²+1))+1/(х²+1)=3х²+(1/(х²+1))
∫(3х²+(1/(х²+1)))dx=(3х³/3)+arctgx+с=х³+arctgx+с.