1) если обозначить радиус вписанной окружности r, а половину основания a, и заметить, что угол при основании равнобедренного треугольника равен углу между высотой к боковой стороне и высотой к основанию (потому что они в сумме с одним и тем же углом дают 90°, а каким углом, вы сами найдите :)), то можно легко записать
r/a = tg(α/2);
a/(2r) = tg(α);
где α - искомый угол.
Получается уравнение 2*tg(α/2)*tg(α) = 1;
Несколько последовательных манипуляций дают
1 = 2*2*sin(α/2)*cos(α/2)*sin(α/2)/(cos(α)*cos(α/2)) = 2*(1 - cos(α))/cos(α);
cos(α) = 2/3;
Результат меня удивляет, потому что выражен рациональной дробью.
2) Я рассказываю построение, а доказательство того, что получается то, что надо, оставляю вам.
Сторону треугольника, на которой лежит целиком сторона прямоугольника, я буду называть основанием, а противоположную ей вершину - просто вершиной.
Надо провести через вершину прямую параллельно основанию, а через концы основания провести к нему перпендикуляры. Треугольник как бы окажется вписанным в прямоугольник.
Теперь надо провести диагональ ЭТОГО прямоугольника через один из концов основания, а из другого конца основания опустить перпендикуляр на эту диагональ.
Через основание этого перпендикуляра (найденную точку на диагонали ОПИСАННОГО прямоугольника) надо провести прямую параллельно основанию.
Это и будет одна из сторон искомого прямоугольника. Дальнейшие построения очевидны - эта прямая пересекает стороны исходного треугольника в двух вершинах искомого прямоугольника, из них надо провести перпендикуляры к основанию.
Доказательство того, что построенный таким образом ВПИСАННЫЙ прямоугольник имеет наименьшую диагональ, я оставляю вам.
Удачи :)