10108

Количество информации (содержательный и алфавитный подходы)

Доклад

Информатика, кибернетика и программирование

Количество информации содержательный и алфавитный подходы. Первый подход называется содержательным. В нем информация рассматривается с субъективной точки зрения т.е. с точки зрения конкретного человека. В этом случае количество информации в сообщении не равно нулю е...

Русский

2013-03-21

17.25 KB

32 чел.

Количество информации (содержательный и алфавитный подходы).

Первый подход называется содержательным. В нем информация рассматривается с субъективной точки зрения, т.е. с точки зрения конкретного человека. В этом случае количество информации в сообщении не равно нулю, если сообщение пополняет знания человека.

Второй подход называется алфавитным. Этот способ не связывает количество информации с содержанием сообщения, и называется он алфавитным подходом. Алфавитный подход является объективным способом измерения информации в отличие от субъективного, содержательного, подхода. Следовательно, при алфавитном подходе к измерению информации количество информации от содержания не зависит. Количество информации зависит от объема текста (то есть от числа знаков в тексте).

Содержательный подход к измерению информации

Сообщение несет информацию для человека, если содержащиеся в нем сведения являются для него новыми и понятными. 
Единица измерения информации называется «бит». Её определение звучит так: Сообщение, уменьшающее неопределенность знаний в два раза, несет 1 бит информации.

Неопределенность знаний о некотором событии – это количество возможных результатов события(пример:монетка-2,кубик-6)

Сообщение о том, что произошло одно событие из двух равновероятных, несет один бит информации(с монеткой мы получили 1 бит информации).

Количество информации i, заключенное в этом сообщении, и число событий N связаны формулой:

2i = N(I=log2n, n-неопределённость)

Алфавитный подход к измерению информации

Алфавитный подход основан на том, что всякое сообщение можно закодировать с помощью конечной последовательности символов некоторого алфавита.

Алфавит — упорядоченный набор символов, используемый для кодирования сообщений на некотором языке.

Мощность алфавита — количество символов алфавита.
Двоичный алфавит содержит 2 символа, его мощность равна двум.
Сообщения, записанные с помощью символов ASCII, используют алфавит из 256 символов. Сообщения, записанные по системе UNICODE, используют алфавит из 65 536 символов.

Чтобы определить объем информации в сообщении при алфавитном подходе, нужно последовательно решить задачи:

  1. Определить количество информации (i) в одном символе по формуле 2i = N, где N — мощность алфавита
  2. Определить количество символов в сообщении (m)
  3. Вычислить объем информации по формуле: I = i * K.

Количество информации во всем тексте (I=log2n), состоящем из K символов, равно произведению информационного веса символа на К:

I = i * К.


 

А также другие работы, которые могут Вас заинтересовать

62973. Вплив шкідливих звичок на організм людини 19.72 KB
  Мета: Навчальна: запобігати шкідливим звичкам які негативно впливають на здоровя підлітків; Виховна: формувати вміння і навички учнів щодо власної безпеки розуміння відповідальності за власні вчинки та їх наслідки...
62976. Решение биквадратного уравнения в EXCEL 76 KB
  Здесь предусмотрены все пять случаев, которые могут встретиться при решении биквадратного уравнения, изложенных подробно в разделе: Алгоритм решения биквадратного уравнения. На рисунке выше коэффициенты указанных уравнений введены в таблицу Excel.