Графиком функции y=|x^2-2x-3| является парабола y=x^2-2x-3, у которого та часть которая находится ниже оси Ox симметрично отражена относительно оси Ox.
График y=a, где a какое то число, это прямая параллельная оси Ox. Значит она может пересекаться с графиком функции y=|x^2-2x-3| либо в двух точка, либо в 4 либо в 3 точках. Нам интересует последний случай. Прямая y=a, пересекает график в 3 точках только когда она касается вершины параболы. Найдем вершину пораболы y=x^2-2x-3, x0=1 => y0=-4. Значит |y0|=4. Значит при a=4, уравнение будет иметь ровно 3 корня