Идеология предыдущего решения верна, но неверно само решение ;)
Координаты точек в выбранной системе координат
A(2,0,0)
B(0,0,0)
E(1,0,2)
F(0,1,2)
Тогда координаты векторов
AE = (1,0,2) - (2,0,0) = (-1,0,2)
BF = (0,1,2) - (0,0,0) = (0,1,2)
Скалярное произведение векторов равно
AE x BF = (-1,0,2) x (0,1,2) = (-1*1 + 0*1 + 2*2) = -1 + 4 = 3
Модули векторов
|AE| = sqrt(1+0+4) = sqrt(5)
|BF| = sqrt(0+1+4) = sqrt(5)
cos A = (AE x BF) / (|AE|*|BF|) = 3 / 5 = 0.6