Если катеты 5 и 12 - гипотенуза 13. По теореме пифагора.
Центр описанной окружности будет лежать на середине гипотенузы.
Центр вписанной лежит на точке пересечения биссектрис.
Биссектриса делит противолежащую сторону в отношении прилежащих. Т.е. биссектриса из прямого угла разделит гипотенузу 5 к 12. Т.е. на 2 части... 65/17 и 156/17.
Ещё есть такая теорема
"Каждая биссектриса делится точкой пересечения биссектрис в отношении суммы прилежащих сторон к противолежащей, считая от вершины.
Итак, находим длину биссектрисы.
Смотрим треугольник у которого один катет 5, второй - часть гипотенузы - 65/17. Мы знаем в нём косинус угла. (5/13) По теореме косинусов считаем.
l=5^2+(65/17)^2-5*(65/17)*cosA.
Итого l=sqrt(25-25/289).
Используем теорему, знаем, что она делится 17 к 13. Можем найти центр вписанной. Дальше мне уже лень считать)