Найдем вектор a+b. Он равен (1+2; -2+3; 0+1)=(3;1;1)
Найдем вектор 3a-mb. Он равен (3;-6;0) - (2m; 3m; 1m)=(3-2m; -6-3m; 1m)
Условие перпендикулярности векторов это их скалярное произведение равное нулю. Тогда:
3*(3-2m) + 1(-6-3m) + 1(1m)=0
9 - 6m - 6 - 3m + 1m=0
3-8m=0
m=8/3