В данной задаче нужно знать всего лишь одну формулу, по нахождению цетра масс системы из двух тел: X = (m1*x1+m2*x2) / (m1+m2).
Переведем для начала наше расстояние между шарами 40 см = 0,4 м.
Чтобы лучше понять принцип применения формулы, представим, что мы расположили наши шары вдоль оси x. Таким образом, первый шар, массой 5 кг, мы расположим в точке ноль, а второй шар, массой 3 кг, как сказано в условии, на расстоянии 0,4 м от первого шара. Вот теперь мы можем подставить в формулу, все наши значения, где x1 - координата первого шара, она равна 0, а x2 - координата второго шара и она равна 0,4.
X = (5*0 + 3*0,4) / (5+3) = 0.15 метров.
Это и есть ответ, удачи!