5) 3a(5ab³-3)+5a²b²(3b-2a) = 15a(2ab³-1)+18.
15a²b³-9a+15a²b³-10a³b² = 30a²b³-15a+18.
-10a³b²-9a = -15a+18.
10a³b² = 6a-18
.
Область определения зависит от числителя под корнем - он не может быть отрицательным, и от знаменателя - он не может быть равным 0.
Поэтому 0>a>3, а "в" определяется по вышеприведенной формуле.