10108

Количество информации (содержательный и алфавитный подходы)

Доклад

Информатика, кибернетика и программирование

Количество информации содержательный и алфавитный подходы. Первый подход называется содержательным. В нем информация рассматривается с субъективной точки зрения т.е. с точки зрения конкретного человека. В этом случае количество информации в сообщении не равно нулю е...

Русский

2013-03-21

17.25 KB

32 чел.

Количество информации (содержательный и алфавитный подходы).

Первый подход называется содержательным. В нем информация рассматривается с субъективной точки зрения, т.е. с точки зрения конкретного человека. В этом случае количество информации в сообщении не равно нулю, если сообщение пополняет знания человека.

Второй подход называется алфавитным. Этот способ не связывает количество информации с содержанием сообщения, и называется он алфавитным подходом. Алфавитный подход является объективным способом измерения информации в отличие от субъективного, содержательного, подхода. Следовательно, при алфавитном подходе к измерению информации количество информации от содержания не зависит. Количество информации зависит от объема текста (то есть от числа знаков в тексте).

Содержательный подход к измерению информации

Сообщение несет информацию для человека, если содержащиеся в нем сведения являются для него новыми и понятными. 
Единица измерения информации называется «бит». Её определение звучит так: Сообщение, уменьшающее неопределенность знаний в два раза, несет 1 бит информации.

Неопределенность знаний о некотором событии – это количество возможных результатов события(пример:монетка-2,кубик-6)

Сообщение о том, что произошло одно событие из двух равновероятных, несет один бит информации(с монеткой мы получили 1 бит информации).

Количество информации i, заключенное в этом сообщении, и число событий N связаны формулой:

2i = N(I=log2n, n-неопределённость)

Алфавитный подход к измерению информации

Алфавитный подход основан на том, что всякое сообщение можно закодировать с помощью конечной последовательности символов некоторого алфавита.

Алфавит — упорядоченный набор символов, используемый для кодирования сообщений на некотором языке.

Мощность алфавита — количество символов алфавита.
Двоичный алфавит содержит 2 символа, его мощность равна двум.
Сообщения, записанные с помощью символов ASCII, используют алфавит из 256 символов. Сообщения, записанные по системе UNICODE, используют алфавит из 65 536 символов.

Чтобы определить объем информации в сообщении при алфавитном подходе, нужно последовательно решить задачи:

  1. Определить количество информации (i) в одном символе по формуле 2i = N, где N — мощность алфавита
  2. Определить количество символов в сообщении (m)
  3. Вычислить объем информации по формуле: I = i * K.

Количество информации во всем тексте (I=log2n), состоящем из K символов, равно произведению информационного веса символа на К:

I = i * К.


 

А также другие работы, которые могут Вас заинтересовать

36443. Западно-европейская 33.5 KB
  Она привлекает туристов и очень разнообразной природой и множеством историкокультурных историкоархитектурных объектов.; преобладанием воздушных перевозок своих и иностранных туристов над автомобильными. При этом в районе велико число туристов не только летом но и зимой в период когда в доступных для туристов горах есть необходимый снежный покров. Наиболее интересны для туристов города Женева Цюрих Берн столица страны.
36444. Южная Европа 34.5 KB
  Пользуется популярностью у туристов и Мальта со столицей ЛаВалетта известная и памятниками прошлого и своеобразной архитектурой. Район этот очень привлекателен для туристов и в последнее десятилетие пользуется исключительным туристским спросом. Это вполне объяснимо: сочетание морских побережий Атлантического океана и Средиземного моря с их пляжами со средиземноморским и близким к нему климатом внутренняя дифференциация природных условий высокогорные и средневысотные районы плато и низменности от очень влажных до засушливых...
36445. Зарубежная Азия 48 KB
  Азиатские страны населяют представители монголоидной и европеоидной рас говорящие па самых различных языках и диалектах. ЮгоВосточная Азия Континентальный район включает Бирму Таиланд Вьетнам Лаос Камбоджу Малайзию Островной макрорайон включает в себя две страны Индонезию и Филиппины Центральная Азия Япония Корейский район СевероВосточный и Восточный Китай Южный Китай с Тайванем. Среди них Стамбул Турция Амман Иордания древние города Ливана Баальбек Сайда а также организующийся туристский центр страны его...
36446. Северная Америка 27 KB
  В США создана крупнейшая в мире туристскорекреационная инфраструктура; число мест в гостиницах и мотелях исчисляется многими миллионами при этом возрастает роль мотелей. В США выделяются 7 туристскорекреационных зон: Восток Запад Центр Тихоокеанская зона ЮгоВосточное побережье Аляска Гавайские острова. Юговосточное побережье Юговосток США включает южную часть побережья Атлантики и побережье Мексиканского залива.
36447. Латинская Америка 35.5 KB
  К тому же вся Латинская Америка отличается большой экзотикой что объясняется и историей коренного населения индейцев и последующей колонизацией испанцами и португальцами а также и другими европейцами и перемещением из Африки в отдельные латиноамериканские страны большого числа жителей черного континента. По степени развития международного туризма в Латиноамериканском регионе можно выделить две туристскорекреационных зоны: 1 Карибская Мексика страны Центральной Америки островные государства Карибского моря Бермудские острова; 2...
36448. Африка 33 KB
  Северная Африка не только район преимущественно благоприятного для отдыха средиземноморского климата пляжей которые в ряде районов например в Египте начинают функционировать значительно раньше южноевропейских а в иных случаях действуют круглый год что весьма привлекательно для многих тысяч туристов но и зона где в огромном количестве сохранились в той или иной степени разрушения памятники древней культуры возраст которых исчисляется многими тысячелетиями. Именно страны Северной Африки принимают основной поток туристов которые...
36449. ОРГАНИЧЕСКАЯ ХИМИЯ. ВМС. БИОХИМИЯ 1.78 MB
  Направление реакции определяется распределением электронной плотности в исходных соединениях статический фактор. Поэтому для них характерен радикальный механизм реакции. Семенова радикальное замещение протекает по цепному механизму включающему 3 стадии: hη 1 стадия инициирование реакцииСl2 → 2 Cl Под действием кванта света 1 электрон со связывающей σ орбитали молекулы хлора переходят на σ разрыхляющую орбиталь. Сl∙ R∙ → RCl Cl∙ Cl∙ → Cl2 Практическое применение этой реакции...
36450. ФИЗХИМИЯ 884.51 KB
  Тепловой эффект это теплота выделяемое или поглощаемое при необратимом течении хим реакции пр след. Тисх=Тпрод Другими словами закон Гесса можно сформулировать так: тепловой эффект реакции зависит только от вида и состояния исходных веществ и продуктов реакции но не зависит от пути перехода. Стандартная энтальпия хим реакций равна разности суммы стандартных энтальпий образования продуктов реакции и реагента с учетом стехиометрических коэффициентов. Стандартной энтальпией или теплотой образования вва при заданной температуре называют...
36451. АНАЛИТИЧЕСКАЯ ХИМИЯ 252.91 KB
  Реальные потенциалы необходимы при определении хода потенциометрического титрования. Реальные потенциалы необходимы для решения вопроса о направлении окислительновосстановительного процесса и хода потенциометрического титрования. Опредся точка конечная и точка титрования.Алкелидиметрия HCl NOH Окислительновосстановительная аОх1вRed2=Ox2bRed1 Редоксиметрия Перманганометрия Дихроматометрия Иодометрия Вонадатометрия Цериметрия KMnO4 K2Cr2O7 I2 KI NH4xVO3 CuSO42 nMnL=[ML] Комплексонометрия Меркуриметрия комплексонометрия...