Ну, для начала - центр у вневписанной окружности (так называется окружность, которая касается стороны и продолжений двух других сторон) только один, и он лежит на оси симметрии задачи (не обязательно говорить эти слова учителю!), то есть на биссектрисе угла при вершине В (она же высота и медиана). Точнее, на её продолжении. Пусть середина АС - точка М.
Теперь надо изобразить это треугольник и обе окружности. Они касаются между собой в точке М. Центр большой окружности - точка О (напомню - она лежит на оси симметрии), центр малой (вписанной в АВС) окружности O1 (само собой он тоже лежит на биссектрисе угла В). Пусть прямая АС касается вписанной окружности в точке K1, а вневписанной в точке К. Надо провести О1К1 и ОК. Ясно, что они параллельны, так как перпендикулярны АС.
О1С - биссектриса угла К1О1М, а ОС - биссектриса угла КОМ. Покольку в сумме углы К1О1М и КОМ составляют 180 градусов (внутренние односторонние углы при параллельных К1О1 и КО и секущей АМ (она же О1О), то сумма углов СО1О и СОО1 равна 90 градусов. поэтому угол О1СО прямой, и треугольник О1СО - прямоугольный. При этом О1О - гипотенуза, СМ = h - высота к гипотенузе, а О1М = r и OM = R - отрезки, на которые высота делит гипотенузу.
Известно, что
h^2 = R*r;
(это очень легко доказать, буквально в одно действие? но надо же и вам что-то сделать :), а это отдельная задача, и очень известная.
Подсказка h/R = r/h)
По условию h = 12/2 = 6, R = 8;
r = 36/8 = 9/2;