Вычислить косинус угла между векторами а {-3;6} и в {3;-6}

Значит так, решать будем через скалярное произведение векторов.
оно считается или как |a|*|b|*cos a, или как сумма произведений координат векторов
$|a|= \sqrt{(-3)^2+6^2} = \sqrt{45} =3 \sqrt{5}$
$|b|= \sqrt{3^2+(-6)^2}= \sqrt{45} =3 \sqrt{5}$
$(a,b)=-3*3+6*-6=-45$
$cos \alpha = \frac{-45}{3\sqrt{5} *3\sqrt{5}} =- \frac{45}{45} =-1$
косинус угла между векторами = -1