√(b² + 10b + 25) - √(b² - 12b - 36) - √(25b²) = √(b + 5)² - √(b - 6)² - 5b = b + 5 - b + 6 - 5b = 11 - 5b.
То, что b есть отрицательное число, не имеет значения в данном примере, т.к. оно извлекается из под знака радикала исключительно как чётная положительная стпень, что оборачивает его в положительное число.