Подставь вместо 3 sin^2x выражение 3*(1-соs^2x) <- это по основному тригонометрическому тождеству
Потом получиться уравнение,пачкой скобки получишь 3-3соs^2x-cox+1=0
-3cos^2x-cosx+4=0
Вводишь переменную вместо cosx
Получаешь квадратное уравнение:
-t^2-t+4=0
Решаешь его,получишь корни,возвращается к переменной х.