Сторона квадрата будет 40 : 4 = 10 см.
Диагональ квадрата равна диаметру окружности. Считаем ее по формуле гипотенузы в прямоуг. треугольнике корень квадр.(2*10^2) = 10 корней из 2. Радиус окр. равен 5 корней из 2.
Сторона правильного треуг., впис. в окружность = R*корень из 3.
Получаем ответ: 5 корней из 6.