Площадь прямоугольника через диагонали высчитывается по формуле - половина произведения диагоналей на синус угла между ними. диагональ можно легко высчитать. рассмотрим треугольник СОД, угол COД = 60 градусов, СД =5, следовательно, этот треугольник равносторонний, так как все углы по 60 градусов. CO=ОД=СД=5. а CO=половина всей диагонали, поэтому вся диагональ - 10.
вставляем в формулу, 
АС×БД×sin60