числитель хорошо раскладывается по формуле разность квадратов:
знаменатель можно разложить, решив квадратное уравнение:

x_1=3, x_2=8" alt="x_1+x_2=11, x_1*x_2=24=>x_1=3, x_2=8" align="absmiddle" class="latex-formula">
подставляя полученные разложения в дробь, имеем:
ответ: