Для нахождения вероятности этого надо найти соотношение площадей круга и шестиугольника. Площадь круга, как известно:
S = П*r^2, где П=3,14, r - радиус.
Теперь найдём площадь вписанного правильного щестиугольника (нарисуйте иллюстрацию, так будет понятнее). Она равна шести площадям треугольника, образованного стороной шестиугольника и двумя радиусами. Так как угол этого треугольника, лежащий у центра окружности, равен 360 / 6 = 60, то этот треугольник вообще равносторонний и его сторона равна r. Найти площадь его можно по формуле Герона, если проходили (для неё достаточно только трёх сторон), или более классическим путём - как произведение половины основания на высоту. Основание r, высота легко выводится тригонометрически: для равностороннего треугольника высота равна r*cos(60/2) = 
/ 2 * r
Отсюда площадь треугольника: 1/2 * r * / 2 * r = / 4* r^2
Площадь шестиугольника равна: 6 * / 4* r^2 = 1,5 * * r^2
Теперь делим её на площадь круга:
1,5 * * r^2 / (П*r^2) = 1,5 * / П
Численно это примерно равно 0,83 или 83%.