Так как призма вписана в шар, то она прямая, то есть, все ее боковые грани - прямоугольники.
Пусть катет, прилежащий к углу α треугольника равен a. Рассмотрим боковую грань, содержащую этот катет. Как указано выше, эта грань - прямоугольник. Его диагональ образует с одной из сторон угол β. Соответственно, другая сторона этого прямоугольника (высота призмы) равна a*tgβ. Второй катет прямоугольного треугольника в основании равен a*tgα.
Объем прямой призмы равен произведению площади треугольника в основании и ее высоты, значит, искомый объем V=1/2*a*a*tgα*a*tgβ=1/2a^3*tgα*tgβ