х кг - всего
0,4х кг - І комната
(х-0,4х) = 0,6х кг - оставшаяся краска для 2 и 3 комнат
0,6х*0,6=0,36х (кг) - краски для 2 комнаты
х-0,4х-0,36х=1,2
0,24х=1,2
х=1,2:0,24
х=5(кг) - краски использовали для покраски пола в трёх комнатах
ну как то так если не ошибаюсь