Возможно вы допустили ошибку при списывании - т.к. в прямоугольном параллелепипнде диагональАС не может равняться стороне, но если АВ=ВС, то задача имеет решение:
ВА₁²=20; ВС₁²=20;А₁С₁²=8
По теореме косинусов:А₁С₁²=А₁В²+ВС₁²-2*А₁В*ВС₁*cosα
8=20+20-2*20*cosα
40cosα=40-8
cosα=32/40
cosα=4/5=0,8
α-угол между векторами ВА₁ И ВС₁.