Поделив вектор b(2;-6)
на число 2, получим вектор b`(1;-3), сонаправленный вектору b(2;-6) и отличающийся от него только по модулю.
Не трудно заметить, что угол между векторами a и b` равен 90 градусам.
Скалярное произведение векторов равно произведению модулей векторов, умноженному на косинус угла между ними:
__
ab = |a|*|b|*cos(90*) = sqrt(10)*sqrt(10)*0 = 0
Ответ: ab = 0.