Задача - вранье.
Составитель задачи ничего не понимает в физике.
Плотность планеты не так важна, как модуль упругости и прочность вещества плантеы.
"Остается шаром" - э это означает абсолютную жесткость материала планеты. Если планета одородна в своем объеме.
Учитывая порочность условия, решать задачу не буду, но как бы я решил эту задачу, если в нее добавить слов 5-6 условия, могу.
Объем шара М=4/3*pi*R^3, масса шара M=ro*V, невесомость на эваторе будет если g*R = V^2/R, где g - это гравитация на поверхности планеты, она равна центростремительному ускорению на поверхности. у эватора.
Учителю по физике - двойка, за неумение формулировать задачи.