5sin²x-2sinx*cosx+cos²x=4
5sin²x-2sinx*cosx+cos²x-4=0
4=4sin²x+4cos²x
sin²x-2sinx*cosx-3cos²x=0 | :cos²x(cosx≠0, иначе и sinx=0, что противоречит основному тригонометрическому тождеству)
tg²x-2tgx-3=0
пусть tgx=t
t²-2t-3=0
по теореме Виета
t=1
t=3
tgx=1
tgx=3
x=π/4 + πn (n∈Z)
x=arctg(3) + πk (k∈Z)