Что-то я засомневался и попробовал сам всё это получить.
Наклонная боковая сторона обозначена с, перпендикулярная основаниям - h;
Два очевидных соотношения.
c + h = a + b; (ну, раз можно вписать окружность)
c^2 - h^2 = (a - b)^2; (ну, если и это надо объяснять, то можно ничего не писать)
Делим второе на первое
с - h = (a - b)^2/(a + b);
Теперь это вычитаем из первого соотношения.
2*h = (a + b) - (a - b)^2/(a + b);(что-то я уже про корень сомневаюсь).
h = 2*a*b/(a + b); r = h/2 = a*b/(a + b);
А теперь - и не сомневаюсь, нет тут ни какого корня. А вот другая находка, и очень красивая - площадь такой (то есть прямоугольной, в которую можно вписать окружность) трапеции равна a*b
Важно так же и вот что - в пределе b -> 0 r не "превращается" в радиус вписанной окружности для прямоугольного треугольника - это совершенно разные вещи.