Первое уравнение является квадратным относительно косинуса, поэтому вводим замену t = cos(x) и решаем квадратное уравнение (я выбрала метод "переброски", но можно считать дискриминант).
Второе уравнение сводится к однородному. Когда мы получили третью строчку, мы все делим на -cos(x) и получаем квадратное уравнение относительно тангенса. Ответ, прямо скажем, некрасивый, но, судя по калькулятору арктангенсов, правильный.
Решение во вложении.