10108

Количество информации (содержательный и алфавитный подходы)

Доклад

Информатика, кибернетика и программирование

Количество информации содержательный и алфавитный подходы. Первый подход называется содержательным. В нем информация рассматривается с субъективной точки зрения т.е. с точки зрения конкретного человека. В этом случае количество информации в сообщении не равно нулю е...

Русский

2013-03-21

17.25 KB

32 чел.

Количество информации (содержательный и алфавитный подходы).

Первый подход называется содержательным. В нем информация рассматривается с субъективной точки зрения, т.е. с точки зрения конкретного человека. В этом случае количество информации в сообщении не равно нулю, если сообщение пополняет знания человека.

Второй подход называется алфавитным. Этот способ не связывает количество информации с содержанием сообщения, и называется он алфавитным подходом. Алфавитный подход является объективным способом измерения информации в отличие от субъективного, содержательного, подхода. Следовательно, при алфавитном подходе к измерению информации количество информации от содержания не зависит. Количество информации зависит от объема текста (то есть от числа знаков в тексте).

Содержательный подход к измерению информации

Сообщение несет информацию для человека, если содержащиеся в нем сведения являются для него новыми и понятными. 
Единица измерения информации называется «бит». Её определение звучит так: Сообщение, уменьшающее неопределенность знаний в два раза, несет 1 бит информации.

Неопределенность знаний о некотором событии – это количество возможных результатов события(пример:монетка-2,кубик-6)

Сообщение о том, что произошло одно событие из двух равновероятных, несет один бит информации(с монеткой мы получили 1 бит информации).

Количество информации i, заключенное в этом сообщении, и число событий N связаны формулой:

2i = N(I=log2n, n-неопределённость)

Алфавитный подход к измерению информации

Алфавитный подход основан на том, что всякое сообщение можно закодировать с помощью конечной последовательности символов некоторого алфавита.

Алфавит — упорядоченный набор символов, используемый для кодирования сообщений на некотором языке.

Мощность алфавита — количество символов алфавита.
Двоичный алфавит содержит 2 символа, его мощность равна двум.
Сообщения, записанные с помощью символов ASCII, используют алфавит из 256 символов. Сообщения, записанные по системе UNICODE, используют алфавит из 65 536 символов.

Чтобы определить объем информации в сообщении при алфавитном подходе, нужно последовательно решить задачи:

  1. Определить количество информации (i) в одном символе по формуле 2i = N, где N — мощность алфавита
  2. Определить количество символов в сообщении (m)
  3. Вычислить объем информации по формуле: I = i * K.

Количество информации во всем тексте (I=log2n), состоящем из K символов, равно произведению информационного веса символа на К:

I = i * К.


 

А также другие работы, которые могут Вас заинтересовать

68502. Мораль, нравственность и этика в системе регулярного поведения 102.99 KB
  Ритуалы и этикет как регуляторы поведения Ритуал магическое действие имеющее космический смысл Основная функция упорядочить взаимоотношения между социумом и Виды ритуалов: календарный погребальный Свадебный рождение ребенка инициации ритуал гостеприимства и обмена дарами ритуальные жертвоприношения...
68503. Этика - внутренняя организационная система 123.88 KB
  Никакие кодексы не будут действовать если они не соответствуют с внутренним ощущением правильного справедливого Будут этики доиндустриального общества пророки учет интересов других людей подчинение младших старшим Индустриальное общество...
68505. Ядерная физика 426.5 KB
  Активность является характеристикой радиоактивного вещества как источника радиоактивного излучения. Поглощенная доза количество энергии ядерного излучения поглощенное единицей массы вещества. Поглощенная доза не учитывает качественный состав падающего излучения.
68506. Понятие финансового права и его сущность 62 KB
  Финансовая деятельность государства - это осуществление им функций по планомерному образованию, распределению и использованию денежных фондов (фин ресурсов) в целях реализации задач социально-экономического развития и обеспечения обороноспособности и безопасности страны.
68507. Правовые системы современности 195 KB
  Романо-германская правовая семья. Становления и развития романо-германского права. Основные черты и особенности романо-германского права. Существенные различия правовых систем Германии и Франции. Англосаксонская правовая семья. Традиционная правовая семья. Религиозная правовая семья
68508. Фізичний рівень передачі інформації: цифрові канали передачі даних 372.5 KB
  Крім того до апаратною складовою комп’ютерної мережі відносяться кабельні системи ліній зв’язку та комунікаційне обладнання що дозволяє об’єднувати окремі сегменти мережі і організовувати інформаційні потоки. Структурована кабельна система Кабельна система є базою для будьякої мережі.
68509. ФІЛОСОФІЯ, ЇЇ ПРЕДМЕТ ТА ФУНКЦІЇ 176.5 KB
  Завдання для самостійної роботи: Доведіть чому кожна людина є філософом хоча й не завжди усвідомлює це Проаналізуйте хто ближче до істини у поясненні суттєвості світу матеріалісти чи ідеалісти Чим відрізняється релігія наука і філософія Проаналізуйте визначення філософії.