Вроде вот так:
Сначала в единицы СИ: m1=0.5кг, чем больше скорость, тем больше масса
V1'=V1+0.6 м/с, V2'=V2+0.2 м/с
По закону сохранения импульса:
m1V1+m2V2=m1(V1+0.6)+m2(V2+0.2)
m1V1-m1(V1+0.6)=m2(V2+0.2)-m2V2
m1(V1-V1-0.6)=m2(V2+0.2-V2)
-0.6m1=0.2m2, так как шары оттолкнулись, минус перед одним из них, тем более меньшем, очевиден, массу мы берем по модулю, значит:
m2=1.5кг или 1500г