Даны векторы a(-2;1)b(3;4). Найти 5а^2-3а*b-2b^2

A^2 = (-2)^2 + 1^2 = 4 + 1 = 5
a*b = (-2) * 3 + 1 * 4 = -6 + 4 = -2
b^2 = 3^2 + 4^2 = 9 + 16 = 25

5a^2 - 3ab - 2b^2 = 5 * 5 - 3 * (-2) - 2 * 25 = 25 + 6 - 50 = -19

Для справки правила скалярного произведения векторов:
$\vec v=(v_x,v_y)\\ \vec u=(u_x, u_y)\\ \vec u\cdot\vec v=\vec v\cdot\vec u=u_xv_x+u_yv_y\\ \vec v^2=\vec v\cdot \vec v$