-sqrt(-a^3))+sqrt(b*3))
Чтобы корень из -а имел смысл, а должно быть отрицательно. Значит произведение sqrt(-a^3) тоже будет отрицательно. Если внести а под корень, то знак теряется. Зная, что sqrt(-a^3)) больше 0, а sqrt(-a^3) меньше 0, надо поставить перед корнем -.