3sin^2x-2sinxcosx-cos^2x=0
Однородное уравнение 2-ой степени. разделим обе части на cos^2x не равный нулю. Получим уравнение, равносильное данному:
3tg^2x-2tgx-1=0
Пусть tgx=t, тогда 3t^2-2t-1=0
t1=-1/3
t2=1
Тк t=tgx, то tgx= -1/3 или tgx=1
x= -atctg1/3+пк
х=п/4 + пк