8/(x^2 - 5x + 10) - x^2 + 5x - 8 = 0
8/(x^2 - 5x + 10) - (x^2 - 5x + 8) = 0
Замена x^2 - 5x + 10 = y
Уравнение x^2 - 5x + 10 = 0 корней не имеет (потому что D = 25 - 40 < 0),
ветви направлены вверх, поэтому y > 0 при любом x
8/y - (y - 2) = 0
8/y - y + 2 = 0
8 - y^2 + 2y = 0
y^2 - 2y - 8 = 0
(y - 4)(y + 2) = 0
y > 0 при любом х, поэтому подходит только y = 4.
Обратная замена
y = x^2 - 5x + 10 = 4
x^2 - 5x + 6 = 0
(x - 2)(x - 3) = 0
x1 = 2, x2 = 3
Больший корень 3, корней 2, произведение 3*2 = 6