40150

ПРОПУСКНАЯ СПОСОБНОСТЬ КАНАЛА СВЯЗИ

Лекция

Коммуникация, связь, радиоэлектроника и цифровые приборы

Рассматривая появление символа алфавита как реализацию случайной величины можно найти энтропию сообщения на входе канала связи 3. Пусть в канале связи отсутствуют помехи. Пусть в канале связи действуют помехи рис.

Русский

2013-10-15

1.03 MB

70 чел.

PAGE   \* MERGEFORMAT 1

ПРОПУСКНАЯ СПОСОБНОСТЬ КАНАЛА СВЯЗИ

Информация на выходе канала связи

Рассмотрим дискретный канал связи. Пусть на его входе формируются дискретные сообщения с использованием алфавита из m символов х1, x2, ..., xm, вероятности которых равны р(x1), р(х2), ..., р(xm). Рассматривая появление символа алфавита как реализацию случайной величины  можно найти энтропию сообщения на входе канала связи

,                                            (3.1)

определяющую среднее количество информации, приходящейся на один символ входного сообщения.

Пусть в канале связи отсутствуют помехи. Тогда между символами на входе (x1, x2, ..., хm) и выходе (y1, y2, ..., ym) существует жёсткая связь. Это означает, что р(у1) = р(x1), p(y2) = Р(х2), .... р(ym) = р(хm) и энтропия на выходе

                                           (3.2)

равна энтропии на входе (рис. а).

Из (3.2) следует, что при отсутствии помех среднее количество информации, приходящейся на одни символ выходного сообщения, равно среднему количеству информации, приходящейся на один символ входного сообщения, при условии, что алфавиты входного и выходного сообщений совпадают.

Пусть в канале связи действуют помехи (рис. б). В этом случае появление символа уj на выходе может быть не только под действием символа xj на входе, но, вообще говоря, под действием любого хi входного символа. Это возможно потому, что сигнал, соответствующий какому-либо входному символу, может быть так искажён, что на выходе он будет восприниматься как сигнал, соответствующий другому символу. В этом случае количество информации которое заключено в символе уj, когда на входе действует символ хi, определится по формуле

,                                                  (3.3)

в которой p(yj) соответствует вероятности появления символа уj без учета действия помех. Так как в этом случае р(уj) = P(xj), то р(yj) следует рассматривать как априорную вероятность Р1 в формуле (3.1). В общем случае условная вероятность р(уj1) всегда меньше единицы :

так как из точки хi графа на рис. 18.1,б выходят ветви во все символы выходного алфавита и имеет место равенство

.

Условную вероятность р(yj|xi) следует рассматривать как апостериорную вероятность Р2 в формуле (3.1), считая, что  то есть приход символа уj не устраняет полностью имевшуюся ранее неопределённость о том, какой символ должен появиться.

Усреднив выражение (3.3) по всем возможным символам входного и выходного алфавита, то есть по всем i и j индексам, получим среднее количество информации, приходящееся на один символ сообщения на выходе канала связи:

,                                 (3.4)

где  - энтропия сообщения на выходе канала связи при отсутствии помех,  - условная энтропия выходного сообщения, характеризующая действие помех.

Условная энтропия, всегда заключена в пределах

.                                                          (3.5)

Действительно, если уj и хi жёстко связаны между собой, как это имеет место при отсутствии помех в канале связи (рис. а), то

.

В этом случае .

При сильной помехе, когда символы уj возникают на приёмном конце связи независимо от посылаемых хi, имеют место равенства:

.

Таким образом, при отсутствии помехи количество информации, приходящееся на один символ выходного сообщения, совпадает с энтропией входного сообщения

.                                                 (3.6)

А при сильной помехе информация, заключённая в символе хi, оказывается совершенно "размазанной" по всем символам уj, так что в среднем выходной символ уj никакой информации об хi не несет и количество информации, которое в среднем приходится на один символ сообщения уj, равно нулю:

.                                              (3.7)

С уменьшением уровня помехи указанная "размазанность" уменьшается, что математически соответствует выполнению неравенства. Поэтому в среднем по каналу связи один выходной символ передаёт информацию, определяемую выражением (3.4):

.                                                        (3.8)

Это меньше, чем информация, заключенная в одном символе входного сообщения. Указанное уменьшение информации, обусловленное действием помехи, учитывается условной энтропией.

Заметим, что формулы (3.4), (3.5), (3.7), (3.8) в полной мере справедливы и для непрерывного канала связи. В теоретической литературе иногда количество информации, заключённое в символе уj относительно символа хi и определяемое формулой (3.8), называется взаимной информацией.

3.2 Скорость передачи информации

и пропускная способность различных каналов связи

3.2.1 Скорость передачи информации и пропускная способность

цифрового канала связи при наличии помех

Канал связи называется цифровым, если передаваемые по нему дискретные сообщения можно представить в виде чисел. Например, при использовании двоичного кода, когда алфавит сообщений равен двум, символам x1 и х2 можно приписать соответственно цифры 1 и 0. Тогда кодовые комбинации, состоящие из трёх позиций, например х1х2х1, x2x1x2 , x2x1x1 записанные в виде 001, 010, 011, можно рассматривать как цифры 1, 2, 3 в двоичном коде.

Производительность источника сообщений характеризуется скоростью R создаваемой информации. Аналогично можно ввести понятие Rk - скорости передачи информации канала связи с помехами

,                                         (3.9)

где Ii количество информации, переносимой одним символом сообщения по каналу связи с помехами (3.8); F - полоса пропускания канала.

Пропускной способностью С канала связи будем называть наибольшее количество информации, которое может быть передано в единицу времени по этому каналу:

.                               (3.10)

В общем случае для нахождения пропускной способности необходимо максимизировать скорость передачи. Однако если считать, что полоса пропускания канала F и эффект действия помех  заданы, то максимизация скорости передачи сводится к определению максимума энтропии сообщения. Так как для дискретного сообщения максимум энтропии  зависит от алфавита, а при отсутствии помех , то пропускную способность цифрового канала связи можно определить выражением

.                                                 (3.11)

Найдём пропускную способность цифрового канала связи с помехами, по которому передаются кодовые комбинации с основанием кода, равным двум. Такой цифровой канал будем называть двоичным.

Граф двоичного канала

Из рассмотрения графа следует, что из-за действия помех входной символ х1("1") превращается в выходной символ у 1("1") с вероятностью (1-Рe), меньшей единицы, где Рe вероятность ошибки. С вероятностью Рe этот же символ х ("1") превращается (инвертируется) в символ у2("0"). Аналогично действует помеха и на символ x2.

Пропускная  способность двоичного канала связи согласно (3.11) будет равна

,                                                          (3.12)

где учтено, что log m = log 2 = 1. Предполагается, что символы х1 и х2 и, соответственно, символы у1, у2 при отсутствии помех равновероятны:

.

Найдём условную энтропию

.

Функцию  будем рассматривать как функцию двух переменных хi, уj. Заметим, что оператор математического ожидания < • > для системы двух непрерывных случайных величин раскрывается с помощью двойного интеграла от произведения функции двух переменных на двумерную плотность вероятности .  Аналогично этот же оператор < • > раскрывается для системы двух дискретных случайных величин с той только разницей, что интегрирование заменяется суммированием по всем индексам i, j:

,                                          (3.13)

где р(хij ) - двумерная вероятность символов хi и уj.

Так как в условиях помех символы хi и уj следует рассматривать как зависимые случайные величины, то согласно правилу произведения зависимых событий имеем

.                                         (3.14)

Подставив  (3.14) в выражение  (3.13), получим

,                                 (3.15)

где сначала суммируются все члены, зависящие от индекса j, a затем все члены, зависящие от i. Заметим, что р(х1,) = р(х2) = 0.5, р(у1х1 ) = р(у2х2) = 1-Рe , p(y1x2) = p(y2x1)= Pe  Подставив эти данные в (3.15), получим

.                                     (3.16)

Подставив результат (3.16) в формулу (3.12), получим окончательное выражение для пропускной способности двоичного цифрового канала связи

,                                     (3.17)

где F - полоса пропускания канала связи; Рe - вероятность ошибки при передаче двоичного символа.

Пропускная способность канала связи прямо пропорциональна полосе пропускания F и является сложной функцией вероятности ошибки Рe. Представляет интерес проследить зависимость С от Рe. Эта зависимость представлена на рис.

                                                                       Рe                                   

Если Рe = 0.5, то С = 0. Этот результат имеет ясную физическую трактовку. При Рe=0.5 символы у1, у2 на выходе канала связи воссоздаются вне всякой связи с символами на входе x1, х2. Это означает, что через канал связи никакая информация в среднем не передаётся. Рост С, когда Рe> 0.5, означает, что под действием помех большинство символов инвертируется. И если работать в обратном коде, приписывая “1” символу y2, а “0” символу y1, то появляется снова возможность передавать информацию по каналу связи.

3.2.2 Пропускная способность непрерывного канала связи с помехами

Непрерывным каналом связи будем называть канал, по которому передаются непрерывные сообщения. Пропускную способность непрерывного канала определим, как и в случае дискретного канала, через максимальное среднее количество информации, передаваемой по каналу в единицу времени.

,                                        (3.18)

где t - временной интервал между дискретами сообщения; F- максимальная частота в спектре входного сообщения, которая соответствует полосе пропускания канала; - максимальное количество информации, в среднем передаваемое одним дискретом сообщения.

Если полагать, что полоса пропускания канала F задана, то определение С сведётся к нахождению . Пусть на входе линии связи канала действует сумма сигнала S(t) и белого шума n(t) со спектральной плотностью N0

,                                                        (3.19)

где сигнал рассматривается как низкочастотный стационарный случайный процесс, дисперсия которого равна, а спектральная плотность ограничена частотой F. Такое представление соответствует тому, что сигнал и сообщение как процессы совпадают между собой.

Линию связи представим в виде идеального ФНЧ с коэффициентом передачи, равным 1 в полосе F и равным 0 за её пределами. Тогда процесс на выходе линии связи запишется в вид

,                                                     (3.20)

где дисперсия суммарного процесса будет равна

.                                                     (3.21)

Равенство (3.21) соответствует тому, что процессы S(t) и  nвых(t) являются независимыми. При этом в силу идеальности ФНЧ дисперсия сигнала на выхода и входе линии связи будет одна и та же, а дисперсия nвых(t) будет равна

.                                                   (3.22)

Найдем пропускную способность непрерывного канала связи в предположении, что ,  в формуле (3.18) будем искать, накладывая ограничение на. Это означает, что максимальное количество информации будет иметь место, если передаётся гауссовское сообщение. Максимально вредное действие помехи при заданной 2 будет также тогда, когда nвых(t) распределена по гауссовскому закону.

При сделанных допущениях формула (3.8) с учетом (3.15), (3.21) примет вид

 

.                    (3.23)

Подставив (3.23) в выражение (3.18) с учетом (3.22), получим

.                                     (3.24)

Формула (3.24) определяет пропускную способность непрерывного канала связи в зависимости от полосы пропускания линии связи F, мощности сигнала и спектральной плотности шума N0. на входе линии связи. Выражение (3.24) называется формулой Шеннона. Формула Шеннона носит фундаментальный характер в том смысле, что показывает принципиальную роль шума как ограничителя пропускной способности.

Рассмотрим зависимость С от F при = const и N0 = const

Для пояснения хода графика на рис. найдем значение С при F = 0 и F = . В первом случае имеет место выполнение неравенства /N0F >> 1, поэтому (3.24) можно записать в виде

.                                                 (3.25)

Непосредственная подстановка F = 0 в формулу (3.25) даёт неопределённость типа "" Раскроем её, применив правило Лопиталя.

.                                  (3.26)

Во втором случае непосредственная подстановка F = в формулу (3.24) дает неопределённость типа "". Раскроем её, применив правило Лопиталя.

.      (3.27)

Из графика следует, что при малых F, область А, увеличение полосы пропускания F существенно увеличивает пропускную способность С. При больших F, область В, увеличение F слабо сказывается на росте С, так как С стремится к асимптотическому уровню, который параллелен оси F. Это означает, что при больших F для увеличения С надо или увеличивать мощность сигнала, или снижать спектральную плотность шума N0, то есть следует увеличивать асимптотический уровень.


 

А также другие работы, которые могут Вас заинтересовать

67299. Ідеологія та політика 124 KB
  Політична ідеологія виникає із суспільної потреби в узгодженні істотних інтересів кожного класу і соціальної групи з інтересами інших класів і соціальних груп з точки зору їх боротьби за державну владу або інших форм участі у справах держави. Ліберали виступають за ринкове...
67300. Лексико-семантическая система 178 KB
  Понятие лексико-семантической системы ЛСС Парадигматические отношения между единицами ЛСС Лексико-семантическая группа ЛСГ 3. Структура ЛСГ Семантическое поле Тематическая группа Связь между различными лексическими парадигмами Синтагматические отношения между единицами ЛСС Ассоциативные отношения.-
67301. Перевантаження оператора «()» 34.5 KB
  Можливо, найбільш інтригуючим оператором, якого можна перевантажувати, є оператор виклику функції "()". Під час його перевантаження створюється не новий спосіб виклику функцій, а операторна функція, якій можна передати довільну кількість параметрів.
67303. Имитационное моделирование. Процедура имитационного моделирования 505 KB
  Определение метода имитационного моделирования. Метод ИМ заключается в создании логико-аналитической (математической модели системы и внешних воздействий), имитации функционирования системы, т.е. в определении временных изменений состояния системы под влиянием внешних...
67304. Постмодернистская ситуация в культуре XX века 31.29 KB
  Понятия постмодернизм постмодерн постмодернистский многозначны они используются и для обозначения своеобразного направления в современном искусстве и для Характеристики определенных тенденций в политике религии этике образе жизни мировосприятии но так же и для периодизации культуры и обозначения...
67305. Верификация, тестирование и оценивание корректности программных компонентов 292.5 KB
  Принципы верификации и тестирования программ Верификация  это процесс для определения выполняют ли программные средства и их компоненты требования наложенные на них в последовательных этапах ЖЦ ПС. Информация о процессе верификации включает требования к системе требования к ПС и к его архитектуре данные...
67306. ОЖОГИ И ОТМОРОЖЕНИЯ 287.5 KB
  Знать: патогенез клинические признаки классификацию термических ожогов и отморожений патогенез стадии течения ожоговой болезни и отморожений. Иметь представление о принципах лечения ожоговой болезни способах кожной пластики оперативном лечении отморожений.
67307. Экономические аспекты безопасности жизнедеятельности 25.87 KB
  Мероприятия по защите окружающей среды, снижению уровня воздействия опасностей на человека и техносферу, обеспечению требований безопасности и улучшению условий труда, прогнозированию, предотвращению или снижению последствий чрезвычайных ситуаций природного и техногенного...