Сделаем это уравнение однородным
6sinxcosx+cos^2(x)-sin^2(x)-2sin^2(x)-2cos^2(x)=0
6sinxcosx-cos^2(x)-3sin^2(x)=0, разделить на cos^2(x)
6tgx-1-3tg^2(x)=0, tgx=t
6t-1-3t62=0
t1=(3-K6)/3, t2=(3+K6)/3
1)tgx=(3-K6)/3, x=arctg((3-K6)/3)+pik
2)tgx=(3+K6)/3, x=arctg((3+K6)/3)+pik