Я квадрат буду писать как ^2, как в языках программирования.
(x^2 + ax + 2)(x + 3) = (x + b)(x^2 + cx + 6)
Раскрываем скобки
x^3 + ax^2 + 2x + 3x^2 + 3ax + 6 = x^3 + bx^2 + cx^2 + cx + 6x + b6
Составляем систему по разным коэффициентам:
x^3: 1 = 1
x^2: a + 3 = b + c
x^1: 2 + 3a = c + 6
x^0: 2*3 = 6 = b*6, отсюда b = 1
Получаем систему из 2 уравнений с 2 неизвестными
{ a + 3 = 1 + c
{ 3a + 2 = c + 6
Из 1 уравнения c = a + 2, подставляем во 2 уравнение
3a = a + 2 + 4
2a = 6; a = 3; c = a + 2 = 5
Получаем:
(x^2 + 3x + 2)(x + 3) = (x + 1)(x^2 + 5x + 6)