Решаем уравнение:
x^2-2*x-3 = 0
Получаем два корня
x 1 = -1
x 2 = 3
Определяем интервалы, на которых функция не меняет знак - интервалы знакопостоянства.
( -∞ , -1) ( -1 , 3) ( 3 , +∞)
Определяем знаки: плюс, минус, плюс.
Ответ будет на рис.1
[-1 , 3]