Задача не такая простая, как может показаться на первый взгляд. Она сложна тем, что состоит из нескольких частей. Первым шагом мы преобразуем исходное выражение к более адекватному виду(а то сейчас вообще что-то нерешаемое :). Всё было бы хорошо, но нам мешает коэффициент 1/2 при арксинусе. Наши преобразования будут направлены как раз на то, чтобы уйти от него. Вторым этапом я вычислю какую-то тригонометрическую функцию от арксинуса. Что за функция будет увидим позднее. Итак, поехали.
Замечаем, что в скобках у нас стоит половина арксинуса(1/2 от него). Значит перед нами тангенс половинного угла(ведь хотелось иметь не половинку арксинуса, а весь целиком, правда же?).
Применим соответствующую формулу тригонометрии:
tg(1/2 * arcsin 5/13) = 1-cos(arcsin 5/13) / sin(arcsin 5/13)
Ну вот уже кажется хорошо. Мы ушли от половинного аргумента, теперь работаем только с целым, а это всегда проще. Осталось лишь вычислить два значения, полученные в этой формуле.
Ну проще начать со знаменателя.
sin(arcsin 5/13) = 5/13 - это тождество. Оно следует из определения арксинуса.
Трудность только в том, чтобы посчитать cos(arcsin 5/13). Но это тоже нетрудно.
Пусть arcsin 5/13 = 
Мы знаем, что sin = 5/13, а нам надо вычислить cos.
Ну теперь всё просто. Воспользуемся основным тригонометрическим тождеством.
sin^ a + cos^2 a = 1
cos^2 a = 1 - sin^2 a
cos^2 a = 1 - 25/169 = 144/169
cos a = +- 12/13
Какой же косинус взять? Вспомним, что а = arcsin 5/13. Вспоминаем определение арксинуса. Арксинус даёт только значения из отрезка [-пи/2; пи/2]. Значит, аргумент а обязан принадлежать тому же отрезку. А при всех а из этого отрезка косинус положителен. Значит, cos a = 12/13, то есть cos(arcsin 5/13) = 12/13
И теперь просто осталось подставить.
(1 - 12/13) / 5/13 = 1/13 : 5/13 = 13/5*13 = 1/5 = 0.2 - это ответ.