По закону сохранения импульса
*****************
mv=(m+M)*u - прыжок первого на неподвижную тележку
1,2mv+(m+M)*u=(m+M+1,2m)*u*1,8 - прыжок второго на движущуюся
********************
из первого уравнения выразим v и подставим во второе
v=(m+M)*u/m
1,2mv+(m+M)*u=(m+M+1,2m)*u*1,8
1,2m(m+M)*u/m+(m+M)*u=(m+M+1,2m)*u*1,8
1,2(m+M)*u+(m+M)*u=(m+M+1,2m)*u*1,8
2,2(m+M)=(M+2,2m)*1,8
2,2M-1,8M=2,2m*1,8-2,2*m=2,2*(1,8-1)*m
0,4M=2,2*0,8*m
M=4,4*m - это ответ