2sin^2x+cos^2x-5sinxcosx=0
Делим на косинус квадрат альфа, не равно 0.
2tg^2x-5tgx+1=0
Методом ввода переменной:пусть t=tgx,то 2t^2-5t+1=0,дальше решаешь квадратное уравнение, корни плохие, но может так и должно быть, подставляешь: тангенс икс=(корни уравнения) и по формуле выводишь.