sin^2 x-3sin2x-7cos^2 x=0,
sin^2 x-6sinxcosx-7cos^2 x=0,
sin^2 x/cos^2 x-6sinxcosx/cos^2 x-7=0,
tg^2 x - 6tgx - 7=0,
tgx=t,
t^2-6t-7=0,
по теореме обратной к теореме Виета:
t1=-1, t2=7,
tg x=-1,
x=arctg(-1)+pi*k, kєZ,
x=pi-arctg 1+pi*k, kєZ,
x=pi-pi/4+pi*k, kєZ,
x=3pi/4+pi*k, kєZ,
tg x=7,
x=arctg 7+pi*k, kєZ