Ну такая трудная задача :(((
Треугольник, вершины которого - центр окружности, центр одной из маленьких окружностей и точка касания маленьких окружностей, - это прямоугольный треугольник с катетами r и r + 2 и гипотенузой 16 - r;
(Я так думаю, что некоторые трудности в понимании может вызвать только последнее утверждение. Дело в том, что, если окружности касаются друг друга - не важно как, внешне или внутренне, то точка касания ОБЯЗАТЕЛЬНО лежит на линии центров. В данном случае 16 - r это разность между радиусами, проведенными в точку касания большой и малой окружностей.)
Отсюда r^2 + (r + 2)^2 = (16 - r)^2;
r^2 + 36*r - 252 = 0;
r = -18+-24; минус надо отбросить,
r = 6;