10108

Количество информации (содержательный и алфавитный подходы)

Доклад

Информатика, кибернетика и программирование

Количество информации содержательный и алфавитный подходы. Первый подход называется содержательным. В нем информация рассматривается с субъективной точки зрения т.е. с точки зрения конкретного человека. В этом случае количество информации в сообщении не равно нулю е...

Русский

2013-03-21

17.25 KB

30 чел.

Количество информации (содержательный и алфавитный подходы).

Первый подход называется содержательным. В нем информация рассматривается с субъективной точки зрения, т.е. с точки зрения конкретного человека. В этом случае количество информации в сообщении не равно нулю, если сообщение пополняет знания человека.

Второй подход называется алфавитным. Этот способ не связывает количество информации с содержанием сообщения, и называется он алфавитным подходом. Алфавитный подход является объективным способом измерения информации в отличие от субъективного, содержательного, подхода. Следовательно, при алфавитном подходе к измерению информации количество информации от содержания не зависит. Количество информации зависит от объема текста (то есть от числа знаков в тексте).

Содержательный подход к измерению информации

Сообщение несет информацию для человека, если содержащиеся в нем сведения являются для него новыми и понятными. 
Единица измерения информации называется «бит». Её определение звучит так: Сообщение, уменьшающее неопределенность знаний в два раза, несет 1 бит информации.

Неопределенность знаний о некотором событии – это количество возможных результатов события(пример:монетка-2,кубик-6)

Сообщение о том, что произошло одно событие из двух равновероятных, несет один бит информации(с монеткой мы получили 1 бит информации).

Количество информации i, заключенное в этом сообщении, и число событий N связаны формулой:

2i = N(I=log2n, n-неопределённость)

Алфавитный подход к измерению информации

Алфавитный подход основан на том, что всякое сообщение можно закодировать с помощью конечной последовательности символов некоторого алфавита.

Алфавит — упорядоченный набор символов, используемый для кодирования сообщений на некотором языке.

Мощность алфавита — количество символов алфавита.
Двоичный алфавит содержит 2 символа, его мощность равна двум.
Сообщения, записанные с помощью символов ASCII, используют алфавит из 256 символов. Сообщения, записанные по системе UNICODE, используют алфавит из 65 536 символов.

Чтобы определить объем информации в сообщении при алфавитном подходе, нужно последовательно решить задачи:

  1. Определить количество информации (i) в одном символе по формуле 2i = N, где N — мощность алфавита
  2. Определить количество символов в сообщении (m)
  3. Вычислить объем информации по формуле: I = i * K.

Количество информации во всем тексте (I=log2n), состоящем из K символов, равно произведению информационного веса символа на К:

I = i * К.


 

А также другие работы, которые могут Вас заинтересовать

56211. Стереотипи та їх роль у житті людини і суспільства. Толерантність. Ксенофобія. Расизм. Ґендерні стереотипи 79 KB
  Мета: розвивати готовність і потребу учнів до самопізнання і самореалізації своєї особистості; визначити сутність понять стереотипи толерантність; формувати вміння застосовувати знання з різних навчальних курсів...
56212. Sterne des Sports 72.5 KB
  Guten Tag, liebe Kinder, es freut mich sehr, euch zu sehen. Wie geht es euch? Was gibt es Neues und Interessantes? (Die Schüler beantworten die Fragen des Lehrers) L: Heute setzen wir unsere Arbeit am Thema „Sport“ fort. Wir werden heute über die bekannten Sportler sprechen, Texte lesen und hören.
56213. Стежкою орфографічних вправ до країни знань 90.5 KB
  Найбільш поширені помилки серед учнів на правопис ненаголошених голосних в корені слова. Привчаю школярів користуватися алгоритмом правила перевірки ненаголошених голосних в корені слова: Вимов слово...
56214. Применение дидактических стихотворений на уроках в начальной школе 1.41 MB
  Имя прилагательное Часть речи примечательная Имя прилагательное. Имя числительное Имя числительное точная часть речи Сумею сосчитать для вас все что есть на свете.
56215. Шляхи стимулювання навчальної діяльності учнів спеціальної школи на самопідготовці 49.5 KB
  Педагогічне стимулювання це створення умов у яких діти працюють з найбільшою ефективністю та найменшою напругою це своєчасна оцінка діяльності учня. Розумово відсталі діти часто не вникають у зміст задачі погано утримують в памяті дані задачі не планують розвязку...
56218. Закріплення додавання і віднімання в межах 100. Виготовлення аплікації «Кораблик» 41.5 KB
  МЕТА: Закріплювати вміння додавати і віднімати числа в межах 100, розв’язувати задачі, розрізняти геометричні фігури, виготовляти аплікацію «Кораблик». Коригувати увагу, память, мислення. Виховувати наполегливість.
56219. СТОН ЗЕМЛІ 1.57 MB
  Було б неправдою говорити що проблема сміття нова. В Україні щорічно кількість сміття збільшується на мільярд тон. Що таке свіже повітря вони вже й призабули адже з року в рік купи сміття навпроти їхніх будинків перетворюються на справжнісінькі гори...