Максимальным может быть круг, окружность которого касается всех трёх сторон треугольника - это вписанная окружность радиуса r.
Гипотенуза по Пифагору равна 13.
Полупериметр р = (5+12+13)/2 = 30/2 = 15 м.
Площадь S = (1/2)*5*12 = 30 м.
Отсюда r = S/p = 30/15 = 2 м.