Программа на python 3.5, вычисляющая то, что надо:
digits = "3" + 115 * "6" + "3"
while "63" in digits or "664" in digits or "6665" in digits:
if "63" in digits:
digits = digits.replace("63", "4", 1)
elif "664" in digits:
digits = digits.replace("664", "65", 1)
elif "6665" in digits:
digits = digits.replace("6665", "63", 1)
print(digits)
Запускаем и получаем ответ 365.