После соударения шары будут двигаться в сторону шара с большим импульсом. обозначим скорость 1 шара массой m за v1, скорость 2 шара массой 2m за v2. их скорости после соударения пометим штрихами
по закону сохранения импульса: 2mv2 - mv1 = mv1' + 2mv2'
по закону сохранения энергии: (2mv2²)/2 + (mv1²)/2 = (mv1'²)/2 + (2mv2'²)/2
сократим ЗСИ на массу, а ЗСЭ также на двойку
2v2 - v1 = v1' + 2v2' (!)
2v2² + v1² = v1'² + 2v2'²
перепишем в виде
2v2 - 2v2' = v1' + v1
2v2² - 2v2'² = v1'² - v1²
разделим второе уравнение на первое
v2 + v2' = v1' - v1 (!!)
выражаем из уравнений (!) и (!!) v2'
v2' = v1' - v1 - v2
v2' = (2v2 - v1 - v1')/2
приравниваем
2v1' - 2v1 - 2v2 = 2v2 - v1 - v1'
3v1' = 4v2 + v1
v1' = (4v2 + v1)/3
тогда скорость второго шара после соударения равна
v2' = (4v2 + v1)/3 - v1 - v2 = (4v2 + v1 - 3v1 - 3v2)/3 = (v2 - 2v1)/3
считаем
v1' = (4*5 + 2)/3 ≈ 7.4 м/c
v2' = (5 - 2*2)/3 ≈ 0.4 м/c