В условии опечатка, если нужен вектор 3p-3k+4m, то и координаты должны быть вектора m, а не вектора с. Решение с такой поправкой
p [1 ;-5;3] x=1; y=-5; z=3
k[-3;0;8] x=-3; y=0; z=8
m[2;3;-3] x=2; y=3; z=-3
С каждой координатой выполняется действие как в векторе 3p-3k+4m
X = 3*1 - 3*(-3) + 4*2 = 20
Y = 3*(-5) - 3*0 + 4*3 = -3
Z = 3*3 - 3*8 + 4*(-3) = -27
3p-3k+4m [20; -3; -27]