Решение. Удар центральный, значит шары продолжают движение вдоль одной прямой линии.
m*V=-m*U1+M*U; U1=2,5*U; m*V=-m*2,5*U+M*U; m*(V+2,5*U)=M*U; 0,5*m*V^2=0,5*m*6,25*U^2+0,5*M*U^2;
m*(V^2-6,25*U^2)=M*U^2; V-2,5*U=U; V=3,5*U; U=V/3,5;
m*V=-m*(2,5/3,5)*V+M*(V/3,5); 1+(2.5/3,5)=(M/m)*(1/3,5); M/m=3,5+2,5=6; Большой шар по массе в 6 раз больше, чем малый!