Тут конечно надо координатным методом. Если начало координат в точке D, оси X вдоль DA, Y вдоль DC, то уравнение окружности (x - r)^2 + (y - r)^2 = r^2; в переводе на обычный язык это означает, что центр окружности лежит на биссектрисе прямого угла ADC, а окружность касается сторон этого угла. Точка М (9/2, 4), то есть середина ВС, принадлежит этой окружности. Это сразу определяет радиус.
(9/2 - r)^2 + (4 - r)^2 = r^2;
r^2 - 17*r + 145/4 = 0; есть два корня 29/2 и 5/2. Первый корень надо отбросить - он пересекает сторону ВС только в точке М (вторая точка пересечения лежит на продолжении ВС), остается один корень r = 5/2;
Если искомый отрезок обозначить u, то по свойству касательной и секущей из точки С
(9/2)*(9/2 - u) = (4 - r)^2; откуда u = 4; то есть u = АВ;
что наводит на мысль о решении обычными средствами. Ищите :)....