Подкоренное выражение должно быть больше либо равно 0.
х*х-11х+24=х*х-11х+50,25-6,25=(х-5,5)^2-2,5^2=(х-3)(х-8)
Выражение неотрицательно тогда, когда оба сомножителя одного знака или хотя бы один равен 0, т.е либо х больше либо равен 8, либо х меньше либо равен 3. Это и есть область определения.