Делить на 0 нельзя, значит знаменатель не должен быть равен 0
х²-2х-3≠0
Чтобы найти х при которых знаменатель равен 0 решаем это квадратное уравнение.
д=4+12=16
х1=(2+4)/2=3
х2=(2-4)/2=-1
область определения функции все х кроме 3 и -1
или (-∞;-1)∪(-1;3)∪(3;+∞)