Избавиться от иррациональности в знаменателе позволяет домножение и числителя и знаменателя дроби на сопряженное выражение... это такое выражение, которое позволит в знаменателе применить формулу сокращенного умножения (обычно это ---разность квадратов...)
в Вашем случае в задании а) в знаменателе очевидно получится формула сумма кубов, если домножить на
((корень 3 степени из 25) - (корень 3 степени из 30) + (корень 3 степени из 36))
в числителе останется только эта скобка, т.к. в знаменателе получится 5+6=11
б))) у Вас в записи не хватает одной закрывающейся скобки ---поэтому возможны варианты... если в знаменателе вся сумма из трех слагаемых,то домножить нужно сначала на ((Va + Vb) - Vc) ---получится формула разность квадратов... потом еще раз на ((a+b-c) -2V(ab))
в знаменателе получим: a^2 + b^2 + c^2 - 2(ab + ac + bc)
в числителе получим: Va(a-b-c) + Vb(b-a-c) + Vc(c-a-b) + 2V(abc)