Нетрудно заметить, что импульс второго шара больше, следовательно, рационально направить ось, на которую мы будем проецировать импульсы, влево (в сторону движения 2 шара)
при абсолютно неупругом соударении шары будут катиться как одно целое с одной скоростью. по закону сохранения импульса:
m2v2 - m1v1 = (m1 + m2) u
u = (m2v2 - m1v1)/(m1 + m2) = (25*4-5*8)/30 = 2 м/c