Решить уравнение: ; *** ответ не должен содержать в явном виде обратных функций: или

Переносим всё в одну часть и немного шаманим:
$\mathop{\mathrm{tg}}^2x+6\mathop{\mathrm{tg}}x+6\mathop{\mathrm{ctg}}x+\mathop{\mathrm{ctg}}^2x+10=0\\ (\mathop{\mathrm{tg}}^2x+2+\mathop{\mathrm{ctg}}^2x)+6(\mathop{\mathrm{tg}}x+\mathop{\mathrm{ctg}}x)+8=0\\ (\mathop{\mathrm{tg}}x+\mathop{\mathrm{ctg}}x)^2+6(\mathop{\mathrm{tg}}x+\mathop{\mathrm{ctg}}x)+8=0$

Полученное уравнение - квадратное относительно tg x + ctg x = t:
$t^2+6t+8=0$

Решение - t = -2 или t = -4. Разбираем случаи.
1. t = -2.
tg x + ctg x = -2
tg x + 1/tg x = -2
tg^2 x + 2 tg x + 1 = 0
tg x = -1
x = -π/4 + πk, k ∈ Z
2. t = -4
tg x + ctg x = -4
tg x + 1/tg x = -4
tg^2 x + 4 tg x + 1 = 0
tg x = -2 +- √3 -- скорее всего, вы не знаете, чему равен арктангенс. Поэтому посчитаем по-другому....

sin x / cos x + cos x / sin x = (sin^2 x + cos^2 x) / sin x cos x = 2 / sin 2x
2 / sin 2x = -4
sin 2x = -1/2
2x = (-1)^(n + 1) * π/6 + πn, n ∈ Z
x = (-1)^(n + 1) * π/12 + πn/2, n ∈ Z

Подстановкой в исходное уравнение убеждаемся, что посторонних корней не появилось, так что ответ - две строчки, выделенные полужирным начертанием.