В числителе разность квадратов
9b^4/3 - a^3/2·b^-2 = (3b^2/3 - a^3/4·b^-1)(3b^2/3 +a^3/4·b^-1)
Выражение под корнем - это квадрат суммы
a^3/2·b^-2 + 6·a^3/4·b^-1/3 + 9b^4/3 = (a^3/4·b^-1 + 3b^2/3)²
корень квадратный из этого выражения есть просто выражение
a^3/4·b^-1 + 3b^2/3, это выражение сократится с выражением в числителе. Останется (3b^2/3 - a^3/4·b^-1)·b²/(a^3/4 - 3b^5/3) = - (a^3/4 - 3b^5/3)·b/(a^3/4 - 3b^5/3) = - b