Найти cos(2m,n), если m{0;2;0}; n{-1;4;1}.

Скорее всего, у вас в условии опечатка.
Но решу, как есть:
$\vec{2m}\vec{n}=|\vec{2m}||\vec{n}|cos(2m,n) \\ \vec{2m}\vec{n}=x_1x_2+y_1y_2+z_1z_2 \\ \vec{2m}=\{0;4;0\},\ |\vec{2m}|=4,\ |\vec{n}|= \sqrt{1+16+1} =3 \sqrt{2} \\ \vec{2m}\vec{n}=0+16+0=16 \\ 16=3 \sqrt{2}*4*cos(2m,n) \\ cos(2m,n)=\dfrac{16}{12\sqrt{2}}=\dfrac{2\sqrt2}{3}$