я, старый дурак, начал расписывать выражение
X^2 - a(1+a^2)x +a^4 и выделять полный квадрат, а потом приводить к виду разность квадратов
x^2 - 2*a(1+a^2)/2*x+(a(1+a^2)/2)^2 + a^4 - (a(1+a^2)/2)^2<0<br>(x - a(1+a^2)/2)^2 + a^4 - (a(1+a^2)/2)^2<0<br>a^4 - (a(1+a^2)/2)^2=a^4 - a^2(1+a^2)^2/4=a^4 - a^2(1+2a^2+a^4)/4=(4a^4 - a^2-2a^4-a^6)/4=(2a^4 - a^2-a^6)/4=-(a*(a^2-1)/2)^2
(x - a(1+a^2)/2+a*(a^2-1)/2)(x - a(1+a^2)/2-a*(a^2-1)/2)<0<br>(x - a)(x - a^3)<0