раскрывайте скобку, получите многочлен. Функция, представляющая собой многочлен, монотонна на всей области определения.
Находите производную и, приравнивая ее к нулю, находите критические точки:
3x^2 - 4x^3 = 0,
х1 = 0. х2 = 3/4
Определяете знаки производной на каждом из промежутков, на которые эти точки разбивают область определения данной функции.
На том промежутке, где производная положительна, исходная функция монотонно возрастает.
В нашем случае это промежуток от 0 до 3/4.
На том промежутке, где производная отрицательна, функция монотонно убывает.
В нашем случае это промежутки от минус бесконечности до нуля и от 3/4 до плюс бесконечности.