Не уверен что правильно понял условие.
радиус окружности будет равняться половине диагонали квадрата, а диагональ в свою очередь будет являться гипотенузой прямоугольного равнобедренного треугольника. По теореме пифагора находим сторону треугольника:
10^2=a^2+a^2
10^2=2a^2
10=a*корень из 2
a=10/корень из 2
a=5*корень из 2