Как известно, в правильном треугольнике высота равна
h=a√3/2, а радиус вписанной окружности r = h/3 = а√3/6.
На втором шаге, после отсечения, новый треугольник будет иметь
высоту h(2) = h-2a = a√3/2 -2а√3/6 = a√3/6 = (a√3/2)/3 = h/3.
Интересно отметить, что новая высота в 3 раза меньше исходной и равна радиусу вписанной окружности в исходный треугольник, а радиус новой вписанной окружности
r(2) = h(2)/3 = (a√3/6)/3 = r/3 - тоже в 3 раза меньше исходного радиуса вписанной окружности.
В дальнейшем, в результате последовательности отсечений, стороны, высоты и
радиусы вписанных окружностей создадут геометрические последовательности со знаменателем прогрессии 1/3.
На n-ом шаге радиус вписанной окружности
r(n) = r/3^(n-1) = (a√3/6)/3^(n-1) = a√3/(2*3^n),
где знак ^ означает возведение в степень.
Это исправленное решение с учетом моих комментариев от 06.01.17.