Пи и 3 пи на два - это третья четверть. Здесь синус отрицательный, тангенс в квадрате в любом случае положительный. Используя основное тригонометрическое тождество в обоих случаях, получаем:
sin(a)=5/13, tg^2(a)=25/144. Мы только подставили косинус в формулу.