На железнодорожном вокзале 8 путей отправления поездов. Вам сообщили, что ваш поезд прибывает на четвертый путь. Сколько информации вы получили?
После получения сообщения о номере пути был сделан выбор 1 из 8, т.е. неопределенность информации о номере пути уменьшилась в 8 раз. Логарифм по основанию 2 от 8 равен 3, следовательно мы получили 3 бита информации.