Разложить на множетили квадр. трехчлен x²-5x-6
(х-6)(х+1)
находим корни по теореме Виета (или через дискриминант, кому как удобно), а потом подставляем в формулу