Для кодировки 500 различных сообщении используют 4 последователных цветовых выспышки...

Число различных комбинаций вспышек должно быть больше или равно чем число сообщений:
$K \geq S=500$ (1)
Если сообщение формируется 4-мя вспышками n, различных цветов, то
число возможных комбинаций:
$K=n*n*n*n=n^4$ (2)
Подставляем в неравенство (1) число комбинаций из (2) и решаем его:
$n^4 \geq 500$
$n \geq \sqrt[4]{500} \approx 4,7287$
Поскольку число цветов должно быть целым, "округляем" результат в сторону ближайшего большего целого.
Итого n≥5. Минимум 5 цветов

P/S Это если вспышки одинаковой длительности. А можно ведь и иначе, вспомните азбуку Морзе.