Обозначим заданные векторы в одной системе:
вектор а=(5; 6; 7) и вектор b=(0; 2; -1).
Тогда косинус угла между ним равен:
cos(a∧b) = |5*0+6*2+7*(-1)|/(√(5²+6²+7²)*√(0²+2²+(-1)²)) =
= |0+12-7|/(√(25+36+49)*√(0+4+1)) =
= 5/(√110*√5) =5/√550 = 5/(5√22) = √22/22 ≈ 0,2132007.