Сгруппируем слагаемые х^5, (-2х³), (-3х), и сгруппируем х⁴, (-2х²), (-3).
(х^5 - 2х³ - 3х) + (х⁴ - 2х² - 3).
Из первой скобки вынесем общий множитель х.
х(х⁴ - 2х² - 3) + (х⁴ - 2х² - 3).
Вынесем за скобку общий множитель (х⁴ - 2х² - 3).
(х⁴ - 2х² - 3)(х + 1).
Выражение в первой скобке разложим на множители.
х⁴ - 2х² - 3 = 0.
Введем новую переменную х² = у.
у² - 2у - 3 = 0.
По теореме Виета корни уравнения равны х1 = 3; х2 = -1.
Разложим у² - 2у - 3 на множители по формуле ax² + bx + c = a(x - x1)(x - x2).
у² - 2у - 3 = (у - 3)(у + 1).
Выполним обратную подстановку.
(х² - 3)(х² + 1).
Подставим разложение в (х⁴ - 2х² - 3)(х + 1).
(х² - 3)(х² + 1)(х + 1).