Я правильно понял, что угол между диагоналями основы и угол между диагональю призмы D - оба равны α?
Проекция диагонали призмы на основание - это диагональ прямоугольника основания - равна
d = D*cos(α)
Площадь основания
S = 1/2*d²*sin(α) = 1/2*D²*cos²(α)*sin(α)
Высота призмы
h = D*sin(α)
И объём
V = S*h = 1/2*D³*cos²(α)*sin²(α) = 1/4*D³*sin²(2α)