Наверное, в задании опечатка, должно быть +5.
x^3 - 5x^2 - x + 5 = 0
(x^3 - 5x^2) - (x - 5) = 0
x^2(x - 5) - (x - 5) = 0
(x - 5)(x^2 - 1) = 0
(x - 5)(x - 1)(x + 1) = 0
x1 = -1; x2 = 1; x3 = 5
Если же опечатки нет, то это очень иррациональное решение.