Если M - масса планеты, то все просто: условие вращения спутника по круговой орбите - равенство значений цетробежной силы и силы притяжения mw^2*r = GMm/r^2 отсюда легко находим г^3 = GM/w^2 где r - растояние от спутника до центра планеты, в то же время r = R + H где R - радиус планеты, а H высота спутника над поверхностью планеты, известна по условию задачи. Тогда R = r - H (где r мы уже нашли).Объем планеты V = 
R^3*3/4 соответсвенно плотность p = M / V