Из условия следует, что плоскость касается шара в единственной точке, значит, АО - он же радиус есть перпендикуляр к этой плоскости. Перпендикулярность плоскости означает перпендикулярность прямой АВ, лежащей на этой плоскости. Получается, что АОВ - прямоугольный треугольник, тогда по т. Пифагора:
R = sqrt(13^2 - 12^2) = sqrt(169 - 144)= sqrt(25) = 5 см