Рассмотрим треугольник АВО. АО=ВО (т.к. по свойствам прямоугольника - диагонали его равны и точкой пересечения делятся пополам). Значит, треугольник АВО - равнобедренный и углы при его основании равны, т.е. ∠АВО=∠ВАО = 50°. Угол ∠ВОА (он же и есть острый угол между диагоналями) равен 180 - ∠АВО - ∠ВАО = 180 - 100 = 80°.
Тупой угол между диагоналями определяем как (360-2*80)/2=100°