Решите, пожалуйста.

Респект тебе за то, что пользуешься техом. Единственное, произведение лучше оформлять не обычной звёздочкой, а командой \cdоt - точечкой. Звёздочка же в математике обозначает несколько другую операцию. А ещё перед косинусом, тангенсом и прочей тригонометрией нужно ставить бекслеш: \cos, \sin, ..., потому что их принято набирать прямым шрифтом. Смотри, как это будет выглядеть:
$\cos^2\alpha \cdot \tan^2\alpha +5 \cos^2\alpha -1$
И ещё, ты забыл (а) правую часть, но я буду полагать, что там ноль.

Приступим к решению :)

$cos^2\alpha \cdot \tan^2\alpha +5 \cos^2\alpha -1 = 0 \Leftrightarrow \\ cos^2\alpha \cdot \frac{\sin^2\alpha}{\cos^2\alpha} +5 \cos^2\alpha -1 = 0 \Leftrightarrow \\ \sin^2\alpha +5 \cos^2\alpha -1 = 0 \Leftrightarrow [\sin^2\alpha + \cos^2\alpha = 1] \\ 1- \cos^2\alpha +5 \cos^2\alpha -1 = 0 \Leftrightarrow \\ 4\cos^2\alpha = 0^* \Rightarrow \cos\alpha=0.$
Такое невозможно, потому что если косинус равен нулю, то тангенс неопределён.

Если нужно было просто упростить, тогда решение такое же, но без правых частей, и продолжается оно до звёздочки :) то есть ответ: $4 \cos^2\alpha$
Надеюсь, тебе понравились мои труды)