Путь №1. Угадать корень. Разделить "столбиком". Угадать еще один корень. Опять разделить столбиком. Посмотреть, что осталось.
Рациональные корни искать можно, пользуясь таким утверждением: если p/q - корень, то p - делитель младшего коэффициента, а q - старшего.
Тут, например, дважды вылезет корнем единица:
x^4 + 2 x^3 - 2 x^2 - 6 x + 5 = (x - 1)(x^3 + 3x^2 + x - 5) = (x - 1)^2 (x^2 + 4x + 5)
Оставшийся квадратный трехчлен на множители разложить уже не получится.
Путь №2. Попытаемся представить многочлен в виде разности двух квадратов.
Пусть x^4 + 2 x^3 - 2 x^2 - 6 x + 5 = (x^2 + ax + b)^2 - (cx + d)^2
Раскроем скобки и потребуем, чтобы коэффициенты при равных степенях оказались равны:
x^4 + 2 x^3 - 2 x^2 - 6 x + 5 = x^4 + 2a x^3 -...
Отсюда a = 1.
(x^2 + x + b)^2 = x^4 + 2x^3 + (2b + 1)x^2 + 2bx + b^2
-(cx + d)^2 = -c^2 x^2 - 2cd x - d^2
Напишем оставшиеся 3 уравнения:
(x^2): 2b + 1 - c^2 = -2
(x): 2b - 2cd = -6
(1): b^2 - d^2 = 5
Попробуем их решить, но тут нас будет ждать засада - если b и d окажутся вещественными, то c окажется комплексным.
Путь №3. Представим в виде (x^2 + ax + b)(x^2 + cx + d) и сделаем тоже самое, что и в предыдущем пути.
Путь №4. Попытать удачи и, если повезет, получится разложение на множители.