Решить уравнение sin^2 x-2sinx*cosx=3cos^2x

$sin^2x-2sinxcosx=3cos^2x$
Делим на cos^2x:

$tg^2x-2tgx=3 \\ tg^2x-2tgx-3=0$

делаем замену:
tgx=t

$t^2-2t-3=0 \\ D=4+12=16=4^2 \\ t_1=(2-4)/2=-1 \\ t_2=(2+4)/2=3$

возвращаемся к замене:
$tgx=-1 \\ tgx=3$

$x_1=- \frac{ \pi }{4}+ \pi k \\ x_2=arctg3+ \pi k$
Ответ: x1=-pi/4+pi*k, k∈Z
x2=arctg3+pi*k, k∈Z