( sin x - 3 cos x ) ( cos x + sin x ) = 1

Раскроем скобки сначала
$\sin x\cos x-3\cos^2 x+\sin^2 x-3\cos x\sin x=1\\ \\ \sin^2 x-2\cos x\sin x-3\cos^2x=\sin^2 x+\cos^2 x\\ \\ 4\cos^2x+2\cos x\sin x=0\\ \\ 2\cos x(2\cos x+\sin x)=0\\ \\ \left[\begin{array}{ccc}\cos x=0\\ 2\cos x+\sin x=0\end{array}\right\to \left[\begin{array}{ccc}\cos x=0\\ tg x=-2\end{array}\right\to \left[\begin{array}{ccc}x_1= \frac{\pi}{2}+ \pi n,n \in Z\\ x_2=-arctg2+ \pi n,n \in Z \end{array}\right$