3cos^2x-2sin2x+sin^2x=0

$\sin^2x-2\sin 2x+3\cos^2x=0\\ \\ \sin^2x-4\sin x\cos x+3\cos ^2x=0\,\, |:\cos^2x\ne 0\\ \\ tg^2x-4tgx+3=0$

Решив квадратное уравнение относительно tg x, получим:
$tg x=3;\,\,\,\,\,\,\Rightarrow\,\,\,\,\, \boxed{x_1=arctg3+ \pi n,n \in \mathbb{Z}}\\ \\ tg x=1;\,\,\,\,\,\,\, \Rightarrow\,\,\,\,\, \boxed{x_2= \frac{\pi}{4} + \pi n,n \in \mathbb{Z}}$