Замечу что на рисунке перепутаны точки C и D, но всё равно решение ориентируется на рисунок. Пусть OP высота тругольника OKM, докажем что она равна r. Обзначим точку между A и B в которой окружность качается квадрата буквой L, а такую же точку между A и С буквой N. Пусть AB = 12x, тогда r=6x, AK=4x,
AM=3x, KM=5x(по теореме Пифагора). MN = AN - AM = r - AM = 3x. Аналагично KL=2x. OM = корень из(MN*MN + r*r) = 3 * (корень из 5) * х
OK = корень из(KL*KL + r*r) = 2 * (корень из 10) * х
Составим систему уравнений :
KP + PM = 5x
OK * OK - KP * KP = OM * OM - PM + PM = OP * OP
Подставим:
KP + PM = 5x
40x*x - KP*KP = 45x*x - PM * PM
PM * PM - KP*KP = (PM - KP)(PM + KP) = (PM - KP)*5x=5x*x => PM - KP = x =>PM = 3x
OP*OP = OM * OM - PM * PM = 36x*x
OP = 6x
Т.к. выстота является радиусом ток сторона KM касательная.
Если что-то не понятно пиши...