Сторона квадрата описанного около окружности равна диаметру окружности, т.о. его площадь равна D^2 = (2*r)^2 = 4*r^2.
Случай с шестиугольником приведен на рисунке ниже. Каждый из треугольников равнобедренный, т.о. радиус - биссектриса каждого из них и в тоже время она является высотой, в прямоугольном треугольнике, образованном ей и "половинкой" треугольника угол при вершине равен 30 градусов, а против угла в 30 градусов лежит катет, равный половине гипотенузы, т.о.
y^2 = (y/2)^2 + r^2, y - гипотенуза.
3y^2 = 4*r^2
y^2 = 4/3 * r^2
y = 2*r/sqrt(3)
А оставшийся катет получается равен r/sqrt(3)
Тогда площадь каждого из 6-ти исходных треугольников равна
r/sqrt(3) * r = r^2/sqrt(3), а т.к. их 6, то площадь шестиугольника =
= 6*r^2/sqrt(3)
Итого, отношение площадей = 6*r^2/sqrt(3) : r^2 = 2*sqrt(3)
