Определите атомную массу элемента 5 группы, высший оксид которого содержит 56,4%...

Это оксид ванадия(∨), действительно M(V)=50, M( $O_{2}$ )=16
Тогда доля кислорода от общей молярной массы $V_{2}O_{5}$ будет:
$w_{o_{2}}= \frac{16*5}{16*5+50*2}*100=56.3$ %
А атомная масса Ванадия - 50 а.е.м.