3π/2 < t < 2π, то синус имеет знак минус, а косинус - плюс, тогда
cost/sint=-5/12, тогда
cost=5/m, sint=-12/m
Что бы решать дальше, нужно воспользоваться основным тригонометрическим тождеством:
(5/m)^2+(-12/m)^2=1
25/(m^2) + 144/(m^2)=1
m=13, то
sint=-12/13; cost=5/13
Если нужно, то tgt=1/ctgt= -12/5