Левая часть представима в виде (x - x1)^2 * (x - x2)^2. Раскроем скобки, приведём подобные, получим
x^4 - 2 (x1 + x2) x^3 + (x1^2 + 4 x1 x2 + x2^2) x^2 - 2 (x1 + x2) x1 x2 x + x1^2 x2^2
Приравнивая коэффициенты при одинаковых степенях, находим, что
2(x1 + x2) = 10
x1^2 + 4 x1 x2 + x^2 = 37
-2 (x1 + x2) x1 x2 = p
x1^2 x2^2 = q
Из первого уравнения x1 + x2 = 5. Тогда x1^2 + 2 x1 x2 + x2^2 = 25 и, сравнивая полученное со вторым уравнением, x1 x2 = 6. Тогда
p = -2 * 5 * 6 = -60
q = 6^2 = 36
Для успокоения совести можно было бы проверить, что система x1 + x2 = 5, x1 x2 = 6 разрешима. В данном случае всё хорошо - корни даже целые, это 2 и 3.
Ответ. -60.
Этот же ответ можно было бы получить, вспомнив формулы Виета. Впрочем, они выводятся точно так же, как и в решении.