Пусть 2arcsin(5/13) = a
тогда нам надо найти ctga
arcsin(5/13) = a/2
5/13 = sin(a/2)
ctga = cosa/sina = (1-2sin²(a/2)) / 2sin(a/2)√(1-sin²(a/2)) = (1-50/169) / (10/13 * √(1 - 25/169) = (119/169) / (10/13 * 12/13) = (119/169) / (120/169) = 119/120
Ответ: 119/120