Пусть х рублей было у Димы, тогда у - у Серёги.
Составим уравнение:
х+у = 12
2/3х = 0,4у
у = 12-х
2/3х = 0,4*(12-х)
2/3х = 4,8-0,4х
2/3х+0,4х = 4 8/10
2/3х+4/10х = 48/10
20/30х+12/30х = 48/10
32/30х = 48/10
16/15х = 24/5
х = 24/5:16/15
х = 24/5*15/16
х = 9/2
х = 4,5 (руб.)- было у Димы.
12-4,5 = 7,5 (руб.)- было у Серёжи.
2/3*4,5 = 0,4*7,5
3 = 3
Ответ: 4,5 рубля было у Димы и 7,5 рубля - у Серёжи.