1)Косинус угла между векторами, зная их координаты вычисляется по формуле:
cos α = 
Здесь x1,x2, y1, y2 - координаты двух векторов.
Подставив в эту формулу координаты, получим:
cos α = (0 * 20 + 60) / √16 * √(20² + (-15)²) = 60 / 4 * √625 = 60 / 4 * 25 = 60/100 = 0.6
3)Доказать этот факт несложно. Достаточно соединить эти точки отрезками и доказать, что BA и BC будут перпендикулярными. Тогда мы докажем, что угол между векторами будет равен 90°, то есть они будут перпендикулярными. Теперь найдём каждую из этих сторон.(AB, BC,AC). Это можно сделать, воспользовавшись методом координат, используя извстную формулу, которую я здесь приводить не буду,(вы можете вполне сами найти её в интернете, а сразу проведу вычисления по ней, чтобы не загромождать место.
AB = √((2 - 0)² + (3 - 1)²) = √(4 + 4) = √8
BC = √((-1 - 2)² + (6 - 3)²) = √(9 + 9) = √18
AC = √(-1)² + (6 - 1)² = √(1 + 25) = √26
Теперь заметим, что (√26)² = (√18)² + (√8)², то есть сумма квадрата одной стороны равна сумме квадратов двух других сторон(это обратная теорема Пифагора), значит данный треугольник является прямоугольным, причём по длине сторон можно заключить, что AC - гипотенуза, тогда AB и BC - катеты, которые взаимно перпендикулярны. Итак. мы доказали, что между данными векторами прямой угол, значит они перпендикулярны между собой, что и требовалось доказать.