Чтобы разложить квадратный трёхчлен на множители, надо найти его корни, приравняв нулю. Т.е. ищем корни уравнения 3x² - 11x + 6 = 0.
Корни можно искать как обычно через дискриминант. Они будут равны:
x1 = 3; x2 = 2/3
Разложение будет выглядеть следующим образом: (x - 3)*(x - 2/3).
НО! Надо ещё учесть коэффициент, который стоит перед x², у нас он равен 3. Так вот, полученное разложение надо умножить на этот коэффициент!
Окончательно разложение будет выглядеть так:
3*(x - 3)*(x - 2/3) = (x - 3)*(3x - 2)
Общее правило для уравнений вида
a x² + b x + c
которые имеют корни x1 и x2, можно разложить по формуле
a * (x - x1) * (x - x2)
Что мы и сделали.
Проверяем
(x - 3)*(3x - 2) = 3x² - 2x - 9x + 6 = 3x² - 11x + 6