Рассмотрите такой вариант (перепроверьте арифметику):
4.
3a-2b=(3*0-2*3;3*(-1)+2*2;3*5+2*2)=(-6;1;19) - опреации проводятся с соответствующими координатами.
2a+2b=(2*0+2*3;2*(-1)-2*2;2*5-2*2)=(6;-6;6) - тот же шаг, только другие цифры.
(3a-2b)*(2a-2b)=-6*6-6*1+19*6=72 - сумма произведений соответствующих координат.
5.
2a+3b=(2*3-3*4;2*(-5)-3*1;2*7-3*8)=(-6;-13;-10)
Тогда длина вектора равна: