Т.к. здесь присутствуют и x^3 и 27=3^3, то это выражение очень похоже на куб разности... можно попробовать выделить куб (x-3)^3
(x-3)^3 = x^3 - 3*x^2*3 + 3*x*9 - 27 = x^3 - 9x^2 + 27x - 27
x^3 - 11x^2 + 33x - 27 = x^3 - 9x^2 - 2x^2 + 27x + 6x - 27 =
= (x-3)^3 - 2x(x-3) = (x-3)*((x-3)^2 - 2x) = (x-3)*(x^2 - 8x + 9) = (x-3)(x-(4+V7))(x-(4-V7))