Сократите дробь :
(x^2-64)/(x^2-11x+24)
(x-8) (x+8) числитель ( разность квадратов)
(x-3 ) (x-8) - знаменатель ( по теореме Виетта x1*x2 = c
x1+x2 = -b
cократив получаем x+8/x-3