Перепишем:
В левой части неравенства угадывается формула квадрата суммы, всё, что осталось, переносим в правую часть.
Если нужно, чтобы у неравенства не было решений, правая часть должна была отрицательной:
0" alt="-(2b-1)a^2+6ab+6b-15<0\\(2b-1)a^2-6ab+15-6b > 0" align="absmiddle" class="latex-formula">
Вспоминаем, что нужно найти такие b, чтобы такое неравенство выполнялось при всех a. Относительно a левая часть либо линейная функция (при b = 1/2), либо квадратичная.
Разбираем случаи:
1) b = 1/2. Тогда при всех a должно быть так:
0" alt="12-3a > 0" align="absmiddle" class="latex-formula">
Понятно, что это выполняется не при всех a, так что b = 1/2 в ответ входить не должно.
2) b не равно 1/2. Квадратный трёхчлен должен принимать только положительные значения. Как известно, так будет, если: 1. Коэффициент при a^2 положительный и 2. Дискриминант отрицательный.
Первое условие:
0\\b > \dfrac12" alt="2b-1 > 0\\b > \dfrac12" align="absmiddle" class="latex-formula">
Второе условие:
Окончательно 5/7 < b < 1