2cos^2x-3sinx cosx+sin^2x=0
Что то в этом роде смотри фото
Правильно, хотя мне больше нравится другой способ
Разделить все на cos^2 x и получить квадратное уравнение относительно tg x.