А - сторона
h - высота
β - угол между сторонами
высота
h = a*sin(β)
диагональ по теореме косинусов
d₁² = 2*a²-2a²cos(β)
решаем совместно
40² = 2*a²-2a²cos(β)
24 = a*sin(β)
---
sin²(β) = (24/a)²
cos²(β) = 1-(24/a)²
cos²(β) = (a²-24²)/a²
(2a²-1600)/(2a²) = cos(β)
(a²-800)/a² = cos(β)
(a²-800)²/a⁴ = cos²(β)
(a²-800)²/a⁴ = (a²-24²)/a²
(a²-800)² = (a²-24²)*a²
a⁴ - 1600a² + 640000 = a⁴ - 576a²
640000 - 1024a² = 0
625 - a² = 0
a = √625 = 25 - сторону нашли, хорошо :)
И площадь
S = a*h = 25*24 = 600
Вторая диагональ по теореме косинусов, учитывая, что cos(π-β) = -cos(β)
d₂² = 2*a²+2a²cos(β)
40² = 2*a²+2a²cos(β)
1600 - 2*a² = 2a²cos(β)
800 - a² = a²cos(β)
(800 - a²)/a² = cos(β)
(800 - a²)²/a⁴ = cos²(β)
собственно, дальше можно не решать, т.к. вариант для первой диагонали и второй на этом этапе становится эквивалентным, т.к.
(800 - a²)² = (a² - 800)²
Ответ - 600