Вообще вопрос про тяжелее должен означать вопрос про массу. Но, как вы, скорее всего, знаете, масса = объем * плотность.
В данном задании, наверно, подразумевается, что объем веществ одинаков. Поэтому сравниваем плотности. Открываем конец учебника с таблицами плотностей (ну либо ищем в интернете) и видим:
Ртуть - 13 600 кг/м³
Масло подсолнечное - 930 кг/м³
Получаем, что ртуть тяжелее чем масло, при одинаковых объемах