Людям сложно отделить информацию от значения, поскольку мы склонны к интерпретации сообщений. Мы наделяем сообщения смыслом автоматически, ошибочно полагая, чтозначение сообщения заключается в самом сообщении. Однако это не так. Это только иллюзия. Значение выводится из контекста и уже имеющегося знания. Значение – это интерпретация, которую познающий субъект, например человек, дает сообщению, но которая отличается от физического порядка, передающего данное сообщение, а также от самого сообщения. Значение возникает тогда, когда сообщение достигает формы жизни или машины, способной обрабатывать информацию. Оно не заключено в чернильных пятнах, звуковых волнах, лучах света или электрических импульсах, передающих информацию.
Подумайте о фразе «11 сентября». Когда я произношу эту фразу, большинство американцев автоматически вспоминают об атаке на башни-близнецы в 2001 году. Чилийцы обычно думают о государственном перевороте в 1973 году. Однако, произнося фразу «11 сентября», я могу просто сказать своим студентам о том, что в этот день я планирую вернуться в Массачусетский технологический институт. Как видите, значение придаете вы. Оно не является частью сообщения, хотя так может показаться. Значение – это то, что мы бесшовно присоединяем при интерпретации сообщений, поскольку людям свойственно интерпретировать проявления физического порядка. Однако эта цельность не означает то, что значение и информация являются одним и тем же.
Чтобы создать машину, которая могла бы передавать информацию, независимо от значения сообщения, Шеннону требовалась формула для оценки минимального количества символов, необходимых для кодирования сообщения. Основываясь на работе Гарри Найквиста и Ральфа Хартли, Шеннон приблизительно определил объем информации, требуемый для передачи сообщения через чистый или подверженный помехам канал. Он также оценил экономичность коммуникации, обусловленную корреляциями в структуре сообщений, например тем фактом, что в английском языке буква t чаще предшествует букве h, чем букве q. Философские рассуждения Шеннона привели его на математический путь, подобный тому, который прошел Больцман. В конце пути Шеннон вывел основную формулу для максимально эффективного кодирования произвольного сообщения. Эта формула позволяла заключить информацию в магнитном диске, электромагнитных волнах или в чернилах на бумаге. Формула Шеннона была идентична той, которую Больцман предложил почти пятьдесят лет назад.