По условию 3π/2 < a < 2π получаем что наше значение находится в 4 четверти (в ней cos принимает положительные значения)
cos²a + sin²a = 1
cos²a = 1 - sin²a
cos a = √(1 - sin²a)
cos a = √(1-9/25)
cos a = √(16/25)
cos a = +-4/5
т.к. 4 четверть, то рассматриваем только положительное значение
Ответ: cos a = 4/5