Радиус круга, если всё правильно нарисовать, это половина диагонали прямоугольника. значит полностью диагональ равна 10. одна из сторон прямоугольника 6, просто напомнила. проведя диагональ надо увидеть прямоугольный треугольник. у него гипотенуза равна 10, а один из катетов 6. по всем известной теореме, а^2=10^2-6^2
а^2=100-36
а^2=64
а=8