10108

Количество информации (содержательный и алфавитный подходы)

Доклад

Информатика, кибернетика и программирование

Количество информации содержательный и алфавитный подходы. Первый подход называется содержательным. В нем информация рассматривается с субъективной точки зрения т.е. с точки зрения конкретного человека. В этом случае количество информации в сообщении не равно нулю е...

Русский

2013-03-21

17.25 KB

30 чел.

Количество информации (содержательный и алфавитный подходы).

Первый подход называется содержательным. В нем информация рассматривается с субъективной точки зрения, т.е. с точки зрения конкретного человека. В этом случае количество информации в сообщении не равно нулю, если сообщение пополняет знания человека.

Второй подход называется алфавитным. Этот способ не связывает количество информации с содержанием сообщения, и называется он алфавитным подходом. Алфавитный подход является объективным способом измерения информации в отличие от субъективного, содержательного, подхода. Следовательно, при алфавитном подходе к измерению информации количество информации от содержания не зависит. Количество информации зависит от объема текста (то есть от числа знаков в тексте).

Содержательный подход к измерению информации

Сообщение несет информацию для человека, если содержащиеся в нем сведения являются для него новыми и понятными. 
Единица измерения информации называется «бит». Её определение звучит так: Сообщение, уменьшающее неопределенность знаний в два раза, несет 1 бит информации.

Неопределенность знаний о некотором событии – это количество возможных результатов события(пример:монетка-2,кубик-6)

Сообщение о том, что произошло одно событие из двух равновероятных, несет один бит информации(с монеткой мы получили 1 бит информации).

Количество информации i, заключенное в этом сообщении, и число событий N связаны формулой:

2i = N(I=log2n, n-неопределённость)

Алфавитный подход к измерению информации

Алфавитный подход основан на том, что всякое сообщение можно закодировать с помощью конечной последовательности символов некоторого алфавита.

Алфавит — упорядоченный набор символов, используемый для кодирования сообщений на некотором языке.

Мощность алфавита — количество символов алфавита.
Двоичный алфавит содержит 2 символа, его мощность равна двум.
Сообщения, записанные с помощью символов ASCII, используют алфавит из 256 символов. Сообщения, записанные по системе UNICODE, используют алфавит из 65 536 символов.

Чтобы определить объем информации в сообщении при алфавитном подходе, нужно последовательно решить задачи:

  1. Определить количество информации (i) в одном символе по формуле 2i = N, где N — мощность алфавита
  2. Определить количество символов в сообщении (m)
  3. Вычислить объем информации по формуле: I = i * K.

Количество информации во всем тексте (I=log2n), состоящем из K символов, равно произведению информационного веса символа на К:

I = i * К.


 

А также другие работы, которые могут Вас заинтересовать

15401. Основные социально-демографические проблемы развития современной России 140 KB
  Анализ изменения численности населения России и ее регионов Рассмотрим изменение численности населения России в 1970-2004 гг. по данным Российского статистического ежегодника за 2004 гг. Данные представим в таблице 1. Таблица 1 Изменение численности населения России в...
15402. Экономическое значение валютного курса. Методы его регулирования 155.5 KB
  Введение Среди факторов оказывающих значительное влияние на экономический рост интенсивность структурных изменений инвестиционную привлекательность страны уровень жизни населения и другие параметры экономического и социального развития выделяют валюту и ва...
15403. Анализ Дальневосточного федерального округа 31.28 KB
  Хабаровский край Сахалинская область Камчатская область Схема экономической связи. Дальневосточный федеральный округ — один из самых больших регионов страны. Он протянулся с севера на юг на огромное расстояние, омывается водами морей Тихого и Северного Ледовитого океанов...
15404. Происхождение жизни 31.1 KB
  Контрольная работа Вариант №19 По концепции современного естествознания на тему: Происхождение жизни. Введение. Сейчас считается общепризнанным что возникновение жизни на Земле представляло собой закономерный процесс вполне поддающийся научному исследо...
15405. Проект строительства ВОЛП на участке г.Казань – г.Набережные Челны 3.05 MB
  Целью дипломного проекта является проектирование ВОЛП между городами республики Татарстан г.Казань и г.Набережные Челны. Указанный участок строительства ВОЛП имеет большое республиканское значение для обеспечения потребностей населения и промышленных предприятий республики Татарстан в качественном информационном доступе...
15406. ПРОЕКТИРОВАНИЕ МАГИСТРАЛЬНЫХ И ВНУТРИЗОНОВЫХ ВОЛП 571.5 KB
  Проектирование магистральных и внутризоновых ВОЛП Учебное пособие по курсовому проектированию направлено на углубление и обобщение знаний полученных студентами в результате изучения дисциплины Направляющие системы электросвязи. Выполнение курсового проекта явл
15407. Вирус иммунодефицита человека (ВИЧ). Биологические свойства. Роль в патологии. Лабораторная диагностика. Профилактика ВИЧ-инфекции 31.5 KB
  Практическое занятие 32 Тема: Вирус иммунодефицита человека ВИЧ. Биологические свойства. Роль в патологии. Лабораторная диагностика. Профилактика ВИЧинфекции. Вирус иммунодефицита человека – ВИЧ human immunodeficiency virus HIV вызывает ВИЧинфекцию заканчивающуюся развит...
15408. Лабораторная диагностика кишечных инфекций. Возбудитель холеры. Биологические свойства. Патогенез и клиника холеры. Лабораторная диагностика. Специфическая профилактика холеры 55 KB
  Практическое занятие 22 Тема: Лабораторная диагностика кишечных инфекций. Возбудитель холеры. Биологические свойства. Патогенез и клиника холеры. Лабораторная диагностика. Специфическая профилактика холеры. 1. Лабораторная диагностика кишечных инфекций Лабо
15409. Вирус гепатита А. Вирус гепатита В. Характеристика. Патогенез и клиника вирусных гепатитов. Лабораторная диагностика. Специфическая профилактика 36.5 KB
  Практическое занятие 31 Тема: Вирус гепатита А. Вирус гепатита В. Характеристика. Патогенез и клиника вирусных гепатитов. Лабораторная диагностика. Специфическая профилактика. 1. Вирус гепатита А Гепатит А болезнь Боткина инфекционное заболевание характериз...