в теории существует как минимум 2 взгляда на "квадратность" промежутков возрастания и убывания функции. Всё зависит от определения возрастания (убывания). Если считать понятия "возрастающая" и "строго возрастающая" равнозначными, то скобки интервалов берем круглыми. У вас в задаче об этом не говорится. Поэтому автор допускает возможность квадратных скобок, чтобы длина отрезка была конечным числом.