Скорость - это вектор, поэтому операции с ними производятся по векторным правилам. В данном случае векторы скоростей образуют прямой угол, а относительная скорость - это разность векторов 2v и v.
-------------------> Разность - это вектор, соединяющий концы векторов ("стрелочки"),
| т.е. гипотенуза прямоугольного треугольника. Построение на
| рисунке - это картина после того, как автомобили проехали
V (скорости при этом не изменились).
Vотн=√(v²+(2v)²)=v√3