Добавляю альтернативное решение, которое, по моему , проще и короче.
Смотри рисунок. Там сделаны дополнительные обозначения.
Из подобия красного треуг. и АВЕ имеем
R:(a/2)=a:(R+r+x)
подставляем исходные значения, получаем
2*25/(8a)=a/(25/8+3/2+x)
откуда после простейшего преобразования получаем
(37+8x)*5²=32a²
a²=(37+8x)*5²/32
т.к. а -целое, то и квадрат его тоже целое и тогда правая часть - тоже целое.
т.к. 5² не имеет общих множителей с 32, то (37+8х) делится нацело на 32 и может принимать значения только полного квадрата , т.е. 1,4,9 и т.д.
если оно равно 1, то а=5, тогда х=-5/8 (да,да, именно -5/8 !, потому что реальный рисунок не такой, а именно т.О2 должна находиться между точками О1 и Е), высота к основанию будет =25/8-5/8+3/2=4, тогда половина основания =3, а основание =6.
Итак , решено.
Но ситуация может быть и другая, когда выражение принимает значение не 1, а 4, как мы сказали раньше.
Примем же это.
Тогда сторона а=10, х=11,375
Т.е. по идее центр вписанной окружности лежит вне треугольника и треугольник тупоугольный. Но такого быть не может, потому что х- это расстояние между центрами окружностей и оно больше радиуса описанной окружности.
Значит, ответ единственный - 5,5,6.