Построим две другие точки касания. Расстояния от вершины до двух ближайших точек касания одинаково. Пусть расстояние от вершины тупого угла до точек касания равно x. Тогда (5+x)^2+(12+x)^2=(12+5)^2. Раскрываем скобки, получаем X^2+17x-60=0. Из уравнения берем положительный корень x=3. Тогда меньший катет равен 3+5=8 см.