Само слово информация лишь сравнительно недавно стало превращаться в точный термин. До этого информацию воспринимали только как нечто, содержащееся в речи, письме или передающееся при общении. Сейчас смысл, вкладываемый в это понятие, сильно изменился и расширился. Появилась особая математическая дисциплина — теория информации. Хотя в теории информации и вводится несколько строгих определений информации, эти определения не охватывают всего богатства этого понятия. Поэтому большинство ученых в наши дни отказываются от попыток дать строгое определение и склоняются к тому, чтобы рассматривать информацию как первичное, неопределяемое понятие, подобно понятию множество в математике.
2. В разговорном языке часто встречаются такие выражения, как передача информации, сжатие информации, обработка информации. Здесь всегда подразумевается некое сообщение, закодированное и переданное тем или иным способом. Поскольку любое сообщение может быть закодировано в двоичном виде, будем рассматривать только сообщения, составленные из битов, т. е. нулей и единиц.
Информационным объемом сообщения называется количество битов в этом сообщении. Подсчет информационного объема сообщения является чисто технической задачей, так как при этом подсчете смысл сообщения не играет никакой роли
