Нашел
(a - (a^2 - 2a - 3)*cos x + 4) / (sin^2 x + a^2 + 1) < 1
1) Коэффициент при cos x приравняем к 0
a^2 - 2a - 3 = (a + 1)(a - 3) = 0
При a = -1, тогда
(-1 - 0 + 4) / (sin^2 x + 1 + 1) = 3/(sin^2 x + 2) < 1
Так как sin^2 x <= 1 при любом х, то знаменатель <= 3, а дробь >= 1
Решений нет.
При а = 3, тогда
(3 - 0 + 4) / (sin^2 x + 9 + 1) = 7/(sin^2 x + 10) < 1
Так как sin^2 x >= 0, то знаменатель >= 10, а дробь < 1
Это верно при любом х, в том числе и при [-pi/3; pi/2]
2) Пусть коэффициент при cos x не равен 0.
Подставим вместо х число -pi/3 и найдем а.
cos(-pi/3) = 1/2; sin^2(-pi/3) = (-√3/2)^2 = 3/4
(a - (a^2 - 2a - 3)*1/2 + 4) / (3/4 + a^2 + 1) < 1
(-a^2/2 + a + 2a/2 + 3/2 + 4) / (a^2 + 7/4) < 1
Умножаем числитель и знаменатель на 4. Дробь от этого не меняется.
(-2a^2 + 8a + 22)/(4a^2 + 7) < 1
-2a^2 + 8a + 22 < 4a^2 + 7
6a^2 - 8a - 15 > 0
D/4 = 16 + 6*15 = 106
a1 = (4 - √106)/6 ~ -1,05
a2 = (4 + √106)/6 ~ 2,38
a < -1,05 U a > 2,38
Ранее найденное a = 3 сюда попадает.
3) Подставим вместо х число pi/2
cos pi/2 = 0, sin^2 pi/2 = 1
(a - 0 + 4) / (1 + a^2 + 1) < 1
(a + 4) / (a^2 + 2) < 1<br>a + 4 < a^2 + 2
a^2 - a - 2 > 0
(a + 1)(a - 2) > 0
a < -1 U a > 2
(4 - √106)/6
< -1 и (4 + √106)/6 > 2, поэтому
Ответ: a <
(4 - √106)/6 U a > (4 + √106)/6