Если множество элементов, из которых осуществляется выбор, состоит из одного единственного элемента, то его выбор предопределен, т.е. никакой неопределенности выбора нет. Это означает нулевое количество информации. Если множество состоит из двух элементов, то неопределенность выбора существует, и ее значение минимально. В этом случае минимально и количество информации, после того как совершен выбор одного из элементов. Это количество информации принято за единицу измерения и называется бит[21]. Чем больше элементов содержит множество, тем больше неопределенность выбора, т.е. тем больше заключено в нем информации. На основании этого Р.Хартли предложена мера оценки количества информации (H), получаемой при реализации (выборе) одного из N состояний: H=log2N. Эта мера является адекватной в предположении, что равновероятен выбор любого элемента из множества состояний.
В середине ХХ столетия К.Шеннон дал более широкую интерпретацию количественной оценки информации в сравнении с тезисами Р.Хартли. Подход К.Шеннона основывается на теоретико-вероятностном подходе. Это связано с тем, что исторически теория информации К.Шеннона выросла из потребностей теории связи, имеющей дело со статистическими характеристиками передаваемых сообщений по каналам связи. К.Шеннон обобщает представление Р.Хартли, учитывая, что различные события в общем случае не равновероятны.
В литературе часто утверждается, о неправомерности применения формулы К.Шеннона для оценки количества семантической информации. Отечественный ученый В. Г.Толстов в своих работах показал, что количество информации, определяемое по формуле К.Шеннона, является интегральной оценкой объема кванта полной и точной информации, описывающей сообщение x на уровне его представления категориальной моделью Mx. По мнению В. Г.Толстова предлагаемый в его теории квантовой информатики подход к оценке объемов информации позволяет утверждать о возможности использования формулы К.Шеннона для оценки количества семантической информации и при этом достаточно точно установить границы ее применимости и для этого случая. Такая декларация имеет существенное феноменологическое значение с точки зрения преодоления часто обсуждаемых противоречий в количественной оценке ситуационного (событийно-вероятностного) и семантического представления информации.
Чрезвычайно важным и принципиальным является то обстоятельство, что для построения меры Р.Хартли используется лишь понятие многообразия, которое накладывает на элементы исходного множества лишь одно условие (ограничение): должна существовать возможность отличать эти элементы один от другого. В теории К.Шеннона существенным