Область определения:
-x^2 + 6x - 5 = -(x - 1)(x - 5) > 0
x ∈ (1; 5)
Решаем уравнение.
log2(-x^2 + 6x - 5) = x^2 - 6x + 11
Проверим правую часть на концах интервала.
x = 1; x^2 - 6x + 11 = 1 - 6 + 11 = 6
x = 5; x^2 - 6x + 11 = 5^2 - 6*5 + 11 = 25 - 30 + 11 = 6
x = 3; x^2 - 6x + 11 = 3^2 - 6*3 + 11 = 9 - 18 + 11 = 2
-x^2 + 6x - 5 = - 3^2 + 6*3 - 5 = -9 + 18 - 5 = 4; log2(4) = 2
При x = 3 левая часть равна правой, это единственный корень.
Это решено подбором, как решить аналитически, я не знаю.