Если я правильно понял, уравнение такое:
x^2 - 2x + a^2 + 2a - 3 = 0
D/4 = 1 - (a^2+2a-3) = -(a^2+2a-4) > 0
Область определения для а:
a^2 + 2a - 4 < 0
D1 = 4 - 4(-4) = 20 = (2√5)^2
a1 = (-2 - 2√5)/2 = -1 - √5; a2 = -1 + √5
a ∈ (-1 - √5; -1 + √5)
Решаем уравнение для x. Корни должны иметь разные знаки.
x1 = 1 - √(-(a^2+2a-4)) < 0
x2 = 1 + √(-(a^2+2a-4)) > 0 - это верно при любом a ∈ (-1 - √5; -1 + √5).
√(-(a^2+2a-4)) > 1
-(a^2+2a-4) > 1
-a^2 - 2a + 4 - 1 > 0
-a^2 - 2a + 3 > 0
a^2 + 2a - 3 < 0
(a + 3)(a - 1) < 0
a ∈ (-3; 1)
Этот промежуток целиком попадает в область определения:
a ∈ (-1 - √5; -1 + √5) ≈ (-3,236; 1,236)
Наименьшее целое: -2.