Легко угадать корень -1. Теперь можно тупо разложить на множители (или делить в столбик, или как еще душе угодно).
x^3+3x^2+x-1=(x^3+x^2)+(2x^2+x-1)=x^2(x+1) + (2x-1)(x+1)=(x+1)(x^2+2x-1)=0,
Еще 2 корня - нули второго сомножителя.
x^2+2x-1=0
x^2+2x+1=2
(x+1)^2=2
x=-1+-sqrt(2)