Могла неправильно посчитать - проверяй, но логика такая: раскрываешь скобки и формулы сокращённого умножения => у тебя получаются скалярные произведения векторов, которые равны произведению их модулей на косинус угла между ними. Произведение ab равно нулю, тк cos90=0, а квадрат вектора - просто модуль в квадрате