Нужно попытаться разложить на множители, для этого нужно удачно сгруппировать, при необходимости добавляя какое-либо выражение, и тут же добавляя противоположное по знаку выражение, чтобы общее выражение не изменилось. Я добавил -x^2 и тут же +x^2.
x^3-2*x^2-5*x+6=0, x^3-2*x^2-x^2+x^2-5*x+6=0, x^3-3*x^2+x^2-5*x+6=0, (x^3-3*x^2)+(x^2-5*x+6)=0,
x^2(x-3)+(x-3)*(x-2)=0, (x-3)*(x^2+x-2)=0, (x-3)*(x+2)*(x-1)=0, x(1)=3, x(2)=-2, x(3)=1.