Sin^2x - 6sinx*cosx+5*cos^2 x=0
делим их с обеих сторон на cos^2 x
выходит
(sin^2 x / cos^2 x) - (6sinx*cosx / cos^2 x) + (5cos^2 x / cos^2 x) =0
по формуле tgx=sinx / cosx
tg^2 x -6 tg x + 5 = 0
tg x = y
y^2 -6y+5=0
y1= 1
y2= 5
tgx=1
tgx= 5
x=пи /4 + пи*n
x=arctg5+пи*n