40150

ПРОПУСКНАЯ СПОСОБНОСТЬ КАНАЛА СВЯЗИ

Лекция

Коммуникация, связь, радиоэлектроника и цифровые приборы

Рассматривая появление символа алфавита как реализацию случайной величины можно найти энтропию сообщения на входе канала связи 3. Пусть в канале связи отсутствуют помехи. Пусть в канале связи действуют помехи рис.

Русский

2013-10-15

1.03 MB

70 чел.

PAGE   \* MERGEFORMAT 1

ПРОПУСКНАЯ СПОСОБНОСТЬ КАНАЛА СВЯЗИ

Информация на выходе канала связи

Рассмотрим дискретный канал связи. Пусть на его входе формируются дискретные сообщения с использованием алфавита из m символов х1, x2, ..., xm, вероятности которых равны р(x1), р(х2), ..., р(xm). Рассматривая появление символа алфавита как реализацию случайной величины  можно найти энтропию сообщения на входе канала связи

,                                            (3.1)

определяющую среднее количество информации, приходящейся на один символ входного сообщения.

Пусть в канале связи отсутствуют помехи. Тогда между символами на входе (x1, x2, ..., хm) и выходе (y1, y2, ..., ym) существует жёсткая связь. Это означает, что р(у1) = р(x1), p(y2) = Р(х2), .... р(ym) = р(хm) и энтропия на выходе

                                           (3.2)

равна энтропии на входе (рис. а).

Из (3.2) следует, что при отсутствии помех среднее количество информации, приходящейся на одни символ выходного сообщения, равно среднему количеству информации, приходящейся на один символ входного сообщения, при условии, что алфавиты входного и выходного сообщений совпадают.

Пусть в канале связи действуют помехи (рис. б). В этом случае появление символа уj на выходе может быть не только под действием символа xj на входе, но, вообще говоря, под действием любого хi входного символа. Это возможно потому, что сигнал, соответствующий какому-либо входному символу, может быть так искажён, что на выходе он будет восприниматься как сигнал, соответствующий другому символу. В этом случае количество информации которое заключено в символе уj, когда на входе действует символ хi, определится по формуле

,                                                  (3.3)

в которой p(yj) соответствует вероятности появления символа уj без учета действия помех. Так как в этом случае р(уj) = P(xj), то р(yj) следует рассматривать как априорную вероятность Р1 в формуле (3.1). В общем случае условная вероятность р(уj1) всегда меньше единицы :

так как из точки хi графа на рис. 18.1,б выходят ветви во все символы выходного алфавита и имеет место равенство

.

Условную вероятность р(yj|xi) следует рассматривать как апостериорную вероятность Р2 в формуле (3.1), считая, что  то есть приход символа уj не устраняет полностью имевшуюся ранее неопределённость о том, какой символ должен появиться.

Усреднив выражение (3.3) по всем возможным символам входного и выходного алфавита, то есть по всем i и j индексам, получим среднее количество информации, приходящееся на один символ сообщения на выходе канала связи:

,                                 (3.4)

где  - энтропия сообщения на выходе канала связи при отсутствии помех,  - условная энтропия выходного сообщения, характеризующая действие помех.

Условная энтропия, всегда заключена в пределах

.                                                          (3.5)

Действительно, если уj и хi жёстко связаны между собой, как это имеет место при отсутствии помех в канале связи (рис. а), то

.

В этом случае .

При сильной помехе, когда символы уj возникают на приёмном конце связи независимо от посылаемых хi, имеют место равенства:

.

Таким образом, при отсутствии помехи количество информации, приходящееся на один символ выходного сообщения, совпадает с энтропией входного сообщения

.                                                 (3.6)

А при сильной помехе информация, заключённая в символе хi, оказывается совершенно "размазанной" по всем символам уj, так что в среднем выходной символ уj никакой информации об хi не несет и количество информации, которое в среднем приходится на один символ сообщения уj, равно нулю:

.                                              (3.7)

С уменьшением уровня помехи указанная "размазанность" уменьшается, что математически соответствует выполнению неравенства. Поэтому в среднем по каналу связи один выходной символ передаёт информацию, определяемую выражением (3.4):

.                                                        (3.8)

Это меньше, чем информация, заключенная в одном символе входного сообщения. Указанное уменьшение информации, обусловленное действием помехи, учитывается условной энтропией.

Заметим, что формулы (3.4), (3.5), (3.7), (3.8) в полной мере справедливы и для непрерывного канала связи. В теоретической литературе иногда количество информации, заключённое в символе уj относительно символа хi и определяемое формулой (3.8), называется взаимной информацией.

3.2 Скорость передачи информации

и пропускная способность различных каналов связи

3.2.1 Скорость передачи информации и пропускная способность

цифрового канала связи при наличии помех

Канал связи называется цифровым, если передаваемые по нему дискретные сообщения можно представить в виде чисел. Например, при использовании двоичного кода, когда алфавит сообщений равен двум, символам x1 и х2 можно приписать соответственно цифры 1 и 0. Тогда кодовые комбинации, состоящие из трёх позиций, например х1х2х1, x2x1x2 , x2x1x1 записанные в виде 001, 010, 011, можно рассматривать как цифры 1, 2, 3 в двоичном коде.

Производительность источника сообщений характеризуется скоростью R создаваемой информации. Аналогично можно ввести понятие Rk - скорости передачи информации канала связи с помехами

,                                         (3.9)

где Ii количество информации, переносимой одним символом сообщения по каналу связи с помехами (3.8); F - полоса пропускания канала.

Пропускной способностью С канала связи будем называть наибольшее количество информации, которое может быть передано в единицу времени по этому каналу:

.                               (3.10)

В общем случае для нахождения пропускной способности необходимо максимизировать скорость передачи. Однако если считать, что полоса пропускания канала F и эффект действия помех  заданы, то максимизация скорости передачи сводится к определению максимума энтропии сообщения. Так как для дискретного сообщения максимум энтропии  зависит от алфавита, а при отсутствии помех , то пропускную способность цифрового канала связи можно определить выражением

.                                                 (3.11)

Найдём пропускную способность цифрового канала связи с помехами, по которому передаются кодовые комбинации с основанием кода, равным двум. Такой цифровой канал будем называть двоичным.

Граф двоичного канала

Из рассмотрения графа следует, что из-за действия помех входной символ х1("1") превращается в выходной символ у 1("1") с вероятностью (1-Рe), меньшей единицы, где Рe вероятность ошибки. С вероятностью Рe этот же символ х ("1") превращается (инвертируется) в символ у2("0"). Аналогично действует помеха и на символ x2.

Пропускная  способность двоичного канала связи согласно (3.11) будет равна

,                                                          (3.12)

где учтено, что log m = log 2 = 1. Предполагается, что символы х1 и х2 и, соответственно, символы у1, у2 при отсутствии помех равновероятны:

.

Найдём условную энтропию

.

Функцию  будем рассматривать как функцию двух переменных хi, уj. Заметим, что оператор математического ожидания < • > для системы двух непрерывных случайных величин раскрывается с помощью двойного интеграла от произведения функции двух переменных на двумерную плотность вероятности .  Аналогично этот же оператор < • > раскрывается для системы двух дискретных случайных величин с той только разницей, что интегрирование заменяется суммированием по всем индексам i, j:

,                                          (3.13)

где р(хij ) - двумерная вероятность символов хi и уj.

Так как в условиях помех символы хi и уj следует рассматривать как зависимые случайные величины, то согласно правилу произведения зависимых событий имеем

.                                         (3.14)

Подставив  (3.14) в выражение  (3.13), получим

,                                 (3.15)

где сначала суммируются все члены, зависящие от индекса j, a затем все члены, зависящие от i. Заметим, что р(х1,) = р(х2) = 0.5, р(у1х1 ) = р(у2х2) = 1-Рe , p(y1x2) = p(y2x1)= Pe  Подставив эти данные в (3.15), получим

.                                     (3.16)

Подставив результат (3.16) в формулу (3.12), получим окончательное выражение для пропускной способности двоичного цифрового канала связи

,                                     (3.17)

где F - полоса пропускания канала связи; Рe - вероятность ошибки при передаче двоичного символа.

Пропускная способность канала связи прямо пропорциональна полосе пропускания F и является сложной функцией вероятности ошибки Рe. Представляет интерес проследить зависимость С от Рe. Эта зависимость представлена на рис.

                                                                       Рe                                   

Если Рe = 0.5, то С = 0. Этот результат имеет ясную физическую трактовку. При Рe=0.5 символы у1, у2 на выходе канала связи воссоздаются вне всякой связи с символами на входе x1, х2. Это означает, что через канал связи никакая информация в среднем не передаётся. Рост С, когда Рe> 0.5, означает, что под действием помех большинство символов инвертируется. И если работать в обратном коде, приписывая “1” символу y2, а “0” символу y1, то появляется снова возможность передавать информацию по каналу связи.

3.2.2 Пропускная способность непрерывного канала связи с помехами

Непрерывным каналом связи будем называть канал, по которому передаются непрерывные сообщения. Пропускную способность непрерывного канала определим, как и в случае дискретного канала, через максимальное среднее количество информации, передаваемой по каналу в единицу времени.

,                                        (3.18)

где t - временной интервал между дискретами сообщения; F- максимальная частота в спектре входного сообщения, которая соответствует полосе пропускания канала; - максимальное количество информации, в среднем передаваемое одним дискретом сообщения.

Если полагать, что полоса пропускания канала F задана, то определение С сведётся к нахождению . Пусть на входе линии связи канала действует сумма сигнала S(t) и белого шума n(t) со спектральной плотностью N0

,                                                        (3.19)

где сигнал рассматривается как низкочастотный стационарный случайный процесс, дисперсия которого равна, а спектральная плотность ограничена частотой F. Такое представление соответствует тому, что сигнал и сообщение как процессы совпадают между собой.

Линию связи представим в виде идеального ФНЧ с коэффициентом передачи, равным 1 в полосе F и равным 0 за её пределами. Тогда процесс на выходе линии связи запишется в вид

,                                                     (3.20)

где дисперсия суммарного процесса будет равна

.                                                     (3.21)

Равенство (3.21) соответствует тому, что процессы S(t) и  nвых(t) являются независимыми. При этом в силу идеальности ФНЧ дисперсия сигнала на выхода и входе линии связи будет одна и та же, а дисперсия nвых(t) будет равна

.                                                   (3.22)

Найдем пропускную способность непрерывного канала связи в предположении, что ,  в формуле (3.18) будем искать, накладывая ограничение на. Это означает, что максимальное количество информации будет иметь место, если передаётся гауссовское сообщение. Максимально вредное действие помехи при заданной 2 будет также тогда, когда nвых(t) распределена по гауссовскому закону.

При сделанных допущениях формула (3.8) с учетом (3.15), (3.21) примет вид

 

.                    (3.23)

Подставив (3.23) в выражение (3.18) с учетом (3.22), получим

.                                     (3.24)

Формула (3.24) определяет пропускную способность непрерывного канала связи в зависимости от полосы пропускания линии связи F, мощности сигнала и спектральной плотности шума N0. на входе линии связи. Выражение (3.24) называется формулой Шеннона. Формула Шеннона носит фундаментальный характер в том смысле, что показывает принципиальную роль шума как ограничителя пропускной способности.

Рассмотрим зависимость С от F при = const и N0 = const

Для пояснения хода графика на рис. найдем значение С при F = 0 и F = . В первом случае имеет место выполнение неравенства /N0F >> 1, поэтому (3.24) можно записать в виде

.                                                 (3.25)

Непосредственная подстановка F = 0 в формулу (3.25) даёт неопределённость типа "" Раскроем её, применив правило Лопиталя.

.                                  (3.26)

Во втором случае непосредственная подстановка F = в формулу (3.24) дает неопределённость типа "". Раскроем её, применив правило Лопиталя.

.      (3.27)

Из графика следует, что при малых F, область А, увеличение полосы пропускания F существенно увеличивает пропускную способность С. При больших F, область В, увеличение F слабо сказывается на росте С, так как С стремится к асимптотическому уровню, который параллелен оси F. Это означает, что при больших F для увеличения С надо или увеличивать мощность сигнала, или снижать спектральную плотность шума N0, то есть следует увеличивать асимптотический уровень.


 

А также другие работы, которые могут Вас заинтересовать

39102. Содержание права природопользования 31.85 KB
  Институт права природопользования занимает одно из центральных мест в системе экологического права. Он представляет собой совокупность правовых норм, которые регулируют порядок и условия использования природных ресурсов, права и обязанности природопользователей.
39103. Формирование массового экологического мировоззрения 99.5 KB
  Экологическая этика учит что не только к человеку но и ко всем живым существам а также к экосистемам и даже как полагают некоторые экофилософы участкам неживой природы нужно относиться как к моральному партнеру субъекту а не как к вещи[12]. Экологическая этика направляет природоохранные действия в двух направлениях: 1 люди действуют или избегают действий из соображений и ради блага самой природы охраняют природу ради нее самой; 2 эти действия совершаются из морального принципа без какихлибо корыстных интересов человека а то и ему...
39104. Гомеостатические свойства биосферы 119.5 KB
  Рассмотренные выше взаимоотношения хищник жертва в данном контексте можно описать несколько подробнее; так в водной экосистеме хищные рыбы щука в пруду поедают другие виды рыбжертвы карась; если численность карася будет увеличиваться это пример положительной обратной связи; щука питаясь карасем снижает его численностьэто пример отрицательной обратной связи; при росте числа хищников снижается число жертв и хищник испытывая недостаток пищи также снижает рост своей популяции; в конце концов в рассматриваемом пруду устанавливается...
39105. Устойчивая энергетика 26.92 KB
  К началу третьего тысячелетия стало очевидным, что человечество в лихорадочной гонке производства и неумеренного потребления жизненных благ вошло в противоречие с законами развития биосферы и поставило под вопрос возможность продолжения собственного существования.
39106. Экологические обязанности граждан и общественных объединений 80 KB
  Ответ напрашивается сам собой – если бы люди реально представляли последствия своих действий а не редко и бездействий если бы был ужесточен контроль за деятельностью предприятий и людей в области предотвращения загрязнения окружающей среды а также применение более жестких санкций за причинение вреда всей экологии в целом тогда возможно экологическая ситуация была бы не столь плачевна. Одно радует – с принятием Конституции РФ в 1993году закрепилось право на благоприятную окружающую среду а так же Федерального закона Об охране окружающей...
39107. Природоохранное управление процессами нормирования качества атмосферного воздуха в Российской Федерации 406.5 KB
  Вместе с тем, специальных исследований, посвящённых изучению проблем природоохранного управления процессами нормирования качества атмосферного воздуха в Российской Федерации не проводилось. Недостаточно изучена специфика деятельности органов государственной власти в России в данной области.
39108. Обострение и глобализация экологических, социальных и экономических проблем 36.93 KB
  Возникновение глобализации 4 2. Общество и процессы глобализации 5 3. Проявления глобализации 8 4. Укоренение этой идеи в науке и общественном сознании способствовало осознанию глобализации процессов в современном мире.
39109. Устойчивое сельское хозяйство 26.34 KB
  Современное состояние и тенденции развития сельских территорий 2. Цели принципы и задачи государственной политики в области устойчивого развития сельских территорий 3. Направления государственной политики в области устойчивого развития сельских территорий Заключение Список литературы Введение Концепцией долгосрочного социальноэкономического развития Российской Федерации на период до 2020 года утвержденной распоряжением Правительства Российской Федерации от 17 ноября 2008 г. N 1662р определены основные цели государственной аграрной...
39110. Понятие, содержание и формы права собственности на природные ресурсы 55 KB
  В настоящее время формы собственности на природные ресурсы определяются Конституцией РФ. Согласно ч. 2 ст. 9 земля и другие природные ресурсы могут находиться в частной, государственной, муниципальной и иных формах собственности.