Получается правильная пирамида. Ребро AM=10 дм. Расстояние от точки М до плоскости квадрата MO это высота пирамиды. В прямоугольном треугольнике AMO сторона AO это радиус описанной вокруг квадрата окружности: a=R корней из 2, R=a/корень из 2, R=6 корней из 2/корень из 2=6. И по теореме Пифагора MO^2=AM^2-AO^2, MO^2=100-36=64, MO=8 дм.