6cos²x + sin²x = 5sinxcosx
sin²x - 5sinxcosx + 6cos²x = 0
Разделим на cos²x:
tg²x - 5tgx + 6 = 0
Пусть t = tgx.
t² - 5t + 6 = 0
По теореме, обратной теореме Виета:
t₁ + t₂ = 5
t₁t₂ = 6
t₁ = 2; t₂ = 3
Обратная замена:
tgx = 2
x = arctg2 + πn, n ∈ Z
tgx = 3
x = arctg3 + πk, k ∈ Z
Ответ: x = arctg2 + πn, n ∈ Z; arctg3 + πk, k ∈ Z.