Представьте на минуту, что Вы налили на ртуть небольшой слой воды, а плавающее тело (пусть это вертикальный цилиндр) не сместилось относительно ртути. Давление на дно цилиндра возросло из-за давления слоя воды и равновесие будет нарушено - на цилиндр будет действовать вверх силы, большая, чем mg. Цилиндр пойдет вверх, уровень погружения в ртуть уменьшится.
Если материал цилиндра "легкий", т.е. его плотность меньше плотности воды, то при некотором уровне воды он всплывет в воде, потеряв связь со ртутью. Если плотность цилиндра больше плотности воды, то он останется погруженным в ртуть на некоторую глубину и при большом уровне воды