Пусть х (мух) - поймал Коля за 1ый день.
Тогда за второй день он поймал столько же сколько из за предыдущие дни, т. е. тоэже х.
За третий день Коля поймал (х+х) = 2х (мух).
За четвертый день Коля поймал (х+х+2х) = 4х (мух).
За пятый день Коля поймал (х++х+2х+4х) = 8х (мух).
А так как сколько мух поймал Коля за 5 дней нам известно - 512 мух, то получаем:
8х = 512
х = 64.
Тогда за первый день Коля поймал: 64 мухи.
за второй день Коля поймал так же 64 мухи.
за третий день Коля поймал 128 мух
за четвертый день Коля поймал 256 мух.
за пятый день Коля поймал 512 мух (ну это уже из условия)
P. S. можно заметить, что количество мух с каждым днем, начиная с третьего дня возростает в 2 раза.
Удачи ;)