10108

Количество информации (содержательный и алфавитный подходы)

Доклад

Информатика, кибернетика и программирование

Количество информации содержательный и алфавитный подходы. Первый подход называется содержательным. В нем информация рассматривается с субъективной точки зрения т.е. с точки зрения конкретного человека. В этом случае количество информации в сообщении не равно нулю е...

Русский

2013-03-21

17.25 KB

30 чел.

Количество информации (содержательный и алфавитный подходы).

Первый подход называется содержательным. В нем информация рассматривается с субъективной точки зрения, т.е. с точки зрения конкретного человека. В этом случае количество информации в сообщении не равно нулю, если сообщение пополняет знания человека.

Второй подход называется алфавитным. Этот способ не связывает количество информации с содержанием сообщения, и называется он алфавитным подходом. Алфавитный подход является объективным способом измерения информации в отличие от субъективного, содержательного, подхода. Следовательно, при алфавитном подходе к измерению информации количество информации от содержания не зависит. Количество информации зависит от объема текста (то есть от числа знаков в тексте).

Содержательный подход к измерению информации

Сообщение несет информацию для человека, если содержащиеся в нем сведения являются для него новыми и понятными. 
Единица измерения информации называется «бит». Её определение звучит так: Сообщение, уменьшающее неопределенность знаний в два раза, несет 1 бит информации.

Неопределенность знаний о некотором событии – это количество возможных результатов события(пример:монетка-2,кубик-6)

Сообщение о том, что произошло одно событие из двух равновероятных, несет один бит информации(с монеткой мы получили 1 бит информации).

Количество информации i, заключенное в этом сообщении, и число событий N связаны формулой:

2i = N(I=log2n, n-неопределённость)

Алфавитный подход к измерению информации

Алфавитный подход основан на том, что всякое сообщение можно закодировать с помощью конечной последовательности символов некоторого алфавита.

Алфавит — упорядоченный набор символов, используемый для кодирования сообщений на некотором языке.

Мощность алфавита — количество символов алфавита.
Двоичный алфавит содержит 2 символа, его мощность равна двум.
Сообщения, записанные с помощью символов ASCII, используют алфавит из 256 символов. Сообщения, записанные по системе UNICODE, используют алфавит из 65 536 символов.

Чтобы определить объем информации в сообщении при алфавитном подходе, нужно последовательно решить задачи:

  1. Определить количество информации (i) в одном символе по формуле 2i = N, где N — мощность алфавита
  2. Определить количество символов в сообщении (m)
  3. Вычислить объем информации по формуле: I = i * K.

Количество информации во всем тексте (I=log2n), состоящем из K символов, равно произведению информационного веса символа на К:

I = i * К.


 

А также другие работы, которые могут Вас заинтересовать

22874. Виды питания 104 KB
  Согласно этой концепции энергетическая ценность пищи должна соответствовать затратам энергии которые у каждого отдельного человека зависят от пола возраста физиологических и генетических особенностей характера выполняемой работы и других факторов. При соблюдении баланса между поглощаемой и затрачиваемой организмом энергией лучше работают ферментативные системы обеспечивающие расщепление и дальнейшее использование веществ пищи а также выведение из организма токсичных продуктов распада. Нормы потребления витаминов зависят от состава пищи...
22875. Влияние вредных привычек на состояние здоровья человека 96.5 KB
  Возможно формирование психической зависимости от алкоголя: влечение к алкоголю и чувствопсихологического комфорта в состоянии опьянения. Лица с начальными признаками алкоголизма им свойственны наличие психической зависимости отсутствие при передозировке алкоголя рвотного рефлекса и чувства отвращения к спиртному по утрам переход к эпизодическому но при этом длительному потреблению появление способности организма к нормальному функционированию при потреблении спиртных напитков отсутствие торможения при потреблении алкоголя и...
22876. Физиология организма человека. Стресс, его роль в адаптации че 70 KB
  Стресс его роль в адаптации человека к социальной и трудовой деятельности. Понятие о стрессе как об общем адаптационном синдроме учение о стрессе Г. Сущность психогенного стресса и его влияние на человека. Степень развития интеллекта; Способность контролировать свои эмоции и поведение в различных ситуациях; Способность справляться со стрессом.
22877. Дійсний простір n – вимірних векторів 40 KB
  Для векторів вводимо дві операції додавання та множення на скаляри. Під сумою двох векторів a=α1 α2 αn і b=β1 β 2 βn будемо розуміти вектор ab=α1β1 α2 β2 αn βn. Неважко перевірити що операція додавання векторів має такі властивості: .
22878. Лінійно залежні та лінійно незалежні системи векторів 20.5 KB
  Системою векторів в просторі Rn будемо називати будьяку скінчену послідовність векторів Нехай a1 a2 am є Rn Нехай a1 a2 am є Rn деяка система векторів α1 α2 αm є R система скалярів. Тоді вектор a= α1a1α2a2αmam називається лінійною комбінацією системи векторів a1 a2 am. Зрозуміло що тривіальна лінійна комбінація будьякої системи векторів рівна 0.
22879. Властивості лінійно залежних та лінійно незалежних систем векторів 22.5 KB
  Якщо до системи входить  то система лінійно залежна. Лінійна комбінація нетривіальна оскільки коефіцієнт при  дорівнює 1 отже система лінійно залежна. Система векторів лінійно залежна тоді і тільки тоді коли принаймні один з векторів системи лінійно виражається через інші.
22880. Дії над комплексними числами 1.04 MB
  Тоді . Нехай комплексне число тоді комплексноспряженим до нього назвемо число . Скористаємося правилом множення комплексних чисел: Розглянемо випадок коли тоді . Нехай `відповідає комплексному числу позначимо через довжину вектора а через кут який утворює цей вектор з додатним напрямком осі тоді тригонометрична форма комплексного числа.
22881. Еволюція поняття числа 135 KB
  В основі всіх числових множин лежить натуральний ряд чисел. Відомо що діагональ квадрата в такому випадку рівна Покажемо що не є раціональним числом. Кожне дійсне не раціональне число можна записати у вигляді нескінченного періодичного десяткового дробу. Відрізок ділимо на 10 різних частин за беремо число яке на 1 менше за номер відрізка на якому знаходиться число .
22882. Формула Муавра 74 KB
  Доведемо що формула Муавра вірна для будьяких цілих степенів. Приклад застосування формули Муавра Виразити і через . За формулою Муавра маємо а з іншого боку за формулою Бінома: прирівняємо дійсні та уявні частини:.