Боковая грань призмы - это прямоугольник, а=8см, с=10см - диагональ прямоугольника, она же гипотенуза прямоугольного треугольника. Отсюда, по теореме Пифагора, найдем ширину прямоугольника-сторону треугольника, основания призмы.
b=√с²-а²
b=√100-64=√36=6см.
Найдем площадь треугольника по формуле Герона
S=√p·(p-a)·(p-b)·(p-c).
Призма правильная, а значит a=b=c=6см.
р=(6+6+6)/2=9см
S=√9·3·3·3=9√3см