3(2sinxcosx)-4sinxcosx-5(cos^2x-sin^2x)=0
^2=в квадрате
6sinxcosx-4sinxcosx-5cos^2x-sin^2x=0
2sinxcosx-5cos^2x-sin^2x=0
делим все на cos^2x
2tgx-5-tg^2x=0
tg^2x-2tgx+5=0
tgx=t
t^2-2t+5=0
а дальше как обычное квадратное уравнение, по сути, находим t, подставляем вместо tgx