При определении плотности одного вещества по другому веществу производится деление молекулярной массы исходного вещества на молекулярную массу вещества, по которому определяется плотность.
В данном случае М(SO3)=80 г/моль, М(О2)=32 г/моль, а плотность будет р=80/32=2,5.