Найдем производную данной функции:
F(штрих от х)= -х^(-4)+[x^2(a+1)^(x^2-1)]/a+1
a+1 не должно равняться 0.
а не равно -1.
Исследуем на монотонность, F(штрих от х)=0
-а+1+x^6(a+1)^(x^2) всегда больше 0, значит функция возрастает на всей области определения.
Ответ: а принадлежит R/(-1)