Даны векторы a(2, -3) и b(-2, 2). Найти скалярное произведение векторов (2a-3b) и (a+2b)....

Скалярное произведение векторов тем хорошо, что можно раскрывать скобки. сделаем это:
$(2a-3b)(a+2b) = 2(a,a) - 6 (b,b) + (a,b) = 2 \times 13 -\\- 6 \times 8 + (-10) = 32.$
Ну теперь разложим по базису. Пусть $c= \alpha a + \beta b.$ Тогда получаем систему
$\left \{ {{2 = 2\alpha - 2 \beta} \atop {-1=-3\alpha+2\beta}} \right. \Rightarrow \left \{ {{\alpha = -1 \atop {\beta = -2}} \right \Rightarrow c = -a-2b.$