Раз призма правильная и раз в шар она вписана, то центр шара соответствует среедине высоты призмы. То есть основания призмы находятся на расстоянии полвысоты от центра шара. Значит, основания призмы вписаны в окружность, разиус которой легко выразить через высоту призмы и радиус шара.
С другой стороны, основания правильной призмы - равносторонний треугольник. И радиус описанной вокруг него окружности легко выразить через сторону этого треугольника.
Вот так и получается два уравнения, из которых постепенно можно найти высоту призмы.