7 cos^2x-10 sin x*cos x+3 sin^2 x=0

Разделим обе части уравнения на квадрат косинуса, получим:
$7-10tgx+3tg^{2}x=0$

Замена: tgx=t
$3t^{2}-10t+7=0, D=100-4*3*7=16=4^{2}$
$t_{1}= \frac{10-4}{6}=1$
$t_{2}= \frac{10+4}{6}=\frac{7}{3}$

Вернемся к замене:
1) $tgx=1$
$x= \frac{ \pi }{4}+ \pi k$ , k∈Z
2) $tgx=\frac{7}{3}$
$x=arctg( \frac{7}{3} )+ \pi k$ , k∈Z