40150

ПРОПУСКНАЯ СПОСОБНОСТЬ КАНАЛА СВЯЗИ

Лекция

Коммуникация, связь, радиоэлектроника и цифровые приборы

Рассматривая появление символа алфавита как реализацию случайной величины можно найти энтропию сообщения на входе канала связи 3. Пусть в канале связи отсутствуют помехи. Пусть в канале связи действуют помехи рис.

Русский

2013-10-15

1.03 MB

70 чел.

PAGE   \* MERGEFORMAT 1

ПРОПУСКНАЯ СПОСОБНОСТЬ КАНАЛА СВЯЗИ

Информация на выходе канала связи

Рассмотрим дискретный канал связи. Пусть на его входе формируются дискретные сообщения с использованием алфавита из m символов х1, x2, ..., xm, вероятности которых равны р(x1), р(х2), ..., р(xm). Рассматривая появление символа алфавита как реализацию случайной величины  можно найти энтропию сообщения на входе канала связи

,                                            (3.1)

определяющую среднее количество информации, приходящейся на один символ входного сообщения.

Пусть в канале связи отсутствуют помехи. Тогда между символами на входе (x1, x2, ..., хm) и выходе (y1, y2, ..., ym) существует жёсткая связь. Это означает, что р(у1) = р(x1), p(y2) = Р(х2), .... р(ym) = р(хm) и энтропия на выходе

                                           (3.2)

равна энтропии на входе (рис. а).

Из (3.2) следует, что при отсутствии помех среднее количество информации, приходящейся на одни символ выходного сообщения, равно среднему количеству информации, приходящейся на один символ входного сообщения, при условии, что алфавиты входного и выходного сообщений совпадают.

Пусть в канале связи действуют помехи (рис. б). В этом случае появление символа уj на выходе может быть не только под действием символа xj на входе, но, вообще говоря, под действием любого хi входного символа. Это возможно потому, что сигнал, соответствующий какому-либо входному символу, может быть так искажён, что на выходе он будет восприниматься как сигнал, соответствующий другому символу. В этом случае количество информации которое заключено в символе уj, когда на входе действует символ хi, определится по формуле

,                                                  (3.3)

в которой p(yj) соответствует вероятности появления символа уj без учета действия помех. Так как в этом случае р(уj) = P(xj), то р(yj) следует рассматривать как априорную вероятность Р1 в формуле (3.1). В общем случае условная вероятность р(уj1) всегда меньше единицы :

так как из точки хi графа на рис. 18.1,б выходят ветви во все символы выходного алфавита и имеет место равенство

.

Условную вероятность р(yj|xi) следует рассматривать как апостериорную вероятность Р2 в формуле (3.1), считая, что  то есть приход символа уj не устраняет полностью имевшуюся ранее неопределённость о том, какой символ должен появиться.

Усреднив выражение (3.3) по всем возможным символам входного и выходного алфавита, то есть по всем i и j индексам, получим среднее количество информации, приходящееся на один символ сообщения на выходе канала связи:

,                                 (3.4)

где  - энтропия сообщения на выходе канала связи при отсутствии помех,  - условная энтропия выходного сообщения, характеризующая действие помех.

Условная энтропия, всегда заключена в пределах

.                                                          (3.5)

Действительно, если уj и хi жёстко связаны между собой, как это имеет место при отсутствии помех в канале связи (рис. а), то

.

В этом случае .

При сильной помехе, когда символы уj возникают на приёмном конце связи независимо от посылаемых хi, имеют место равенства:

.

Таким образом, при отсутствии помехи количество информации, приходящееся на один символ выходного сообщения, совпадает с энтропией входного сообщения

.                                                 (3.6)

А при сильной помехе информация, заключённая в символе хi, оказывается совершенно "размазанной" по всем символам уj, так что в среднем выходной символ уj никакой информации об хi не несет и количество информации, которое в среднем приходится на один символ сообщения уj, равно нулю:

.                                              (3.7)

С уменьшением уровня помехи указанная "размазанность" уменьшается, что математически соответствует выполнению неравенства. Поэтому в среднем по каналу связи один выходной символ передаёт информацию, определяемую выражением (3.4):

.                                                        (3.8)

Это меньше, чем информация, заключенная в одном символе входного сообщения. Указанное уменьшение информации, обусловленное действием помехи, учитывается условной энтропией.

Заметим, что формулы (3.4), (3.5), (3.7), (3.8) в полной мере справедливы и для непрерывного канала связи. В теоретической литературе иногда количество информации, заключённое в символе уj относительно символа хi и определяемое формулой (3.8), называется взаимной информацией.

3.2 Скорость передачи информации

и пропускная способность различных каналов связи

3.2.1 Скорость передачи информации и пропускная способность

цифрового канала связи при наличии помех

Канал связи называется цифровым, если передаваемые по нему дискретные сообщения можно представить в виде чисел. Например, при использовании двоичного кода, когда алфавит сообщений равен двум, символам x1 и х2 можно приписать соответственно цифры 1 и 0. Тогда кодовые комбинации, состоящие из трёх позиций, например х1х2х1, x2x1x2 , x2x1x1 записанные в виде 001, 010, 011, можно рассматривать как цифры 1, 2, 3 в двоичном коде.

Производительность источника сообщений характеризуется скоростью R создаваемой информации. Аналогично можно ввести понятие Rk - скорости передачи информации канала связи с помехами

,                                         (3.9)

где Ii количество информации, переносимой одним символом сообщения по каналу связи с помехами (3.8); F - полоса пропускания канала.

Пропускной способностью С канала связи будем называть наибольшее количество информации, которое может быть передано в единицу времени по этому каналу:

.                               (3.10)

В общем случае для нахождения пропускной способности необходимо максимизировать скорость передачи. Однако если считать, что полоса пропускания канала F и эффект действия помех  заданы, то максимизация скорости передачи сводится к определению максимума энтропии сообщения. Так как для дискретного сообщения максимум энтропии  зависит от алфавита, а при отсутствии помех , то пропускную способность цифрового канала связи можно определить выражением

.                                                 (3.11)

Найдём пропускную способность цифрового канала связи с помехами, по которому передаются кодовые комбинации с основанием кода, равным двум. Такой цифровой канал будем называть двоичным.

Граф двоичного канала

Из рассмотрения графа следует, что из-за действия помех входной символ х1("1") превращается в выходной символ у 1("1") с вероятностью (1-Рe), меньшей единицы, где Рe вероятность ошибки. С вероятностью Рe этот же символ х ("1") превращается (инвертируется) в символ у2("0"). Аналогично действует помеха и на символ x2.

Пропускная  способность двоичного канала связи согласно (3.11) будет равна

,                                                          (3.12)

где учтено, что log m = log 2 = 1. Предполагается, что символы х1 и х2 и, соответственно, символы у1, у2 при отсутствии помех равновероятны:

.

Найдём условную энтропию

.

Функцию  будем рассматривать как функцию двух переменных хi, уj. Заметим, что оператор математического ожидания < • > для системы двух непрерывных случайных величин раскрывается с помощью двойного интеграла от произведения функции двух переменных на двумерную плотность вероятности .  Аналогично этот же оператор < • > раскрывается для системы двух дискретных случайных величин с той только разницей, что интегрирование заменяется суммированием по всем индексам i, j:

,                                          (3.13)

где р(хij ) - двумерная вероятность символов хi и уj.

Так как в условиях помех символы хi и уj следует рассматривать как зависимые случайные величины, то согласно правилу произведения зависимых событий имеем

.                                         (3.14)

Подставив  (3.14) в выражение  (3.13), получим

,                                 (3.15)

где сначала суммируются все члены, зависящие от индекса j, a затем все члены, зависящие от i. Заметим, что р(х1,) = р(х2) = 0.5, р(у1х1 ) = р(у2х2) = 1-Рe , p(y1x2) = p(y2x1)= Pe  Подставив эти данные в (3.15), получим

.                                     (3.16)

Подставив результат (3.16) в формулу (3.12), получим окончательное выражение для пропускной способности двоичного цифрового канала связи

,                                     (3.17)

где F - полоса пропускания канала связи; Рe - вероятность ошибки при передаче двоичного символа.

Пропускная способность канала связи прямо пропорциональна полосе пропускания F и является сложной функцией вероятности ошибки Рe. Представляет интерес проследить зависимость С от Рe. Эта зависимость представлена на рис.

                                                                       Рe                                   

Если Рe = 0.5, то С = 0. Этот результат имеет ясную физическую трактовку. При Рe=0.5 символы у1, у2 на выходе канала связи воссоздаются вне всякой связи с символами на входе x1, х2. Это означает, что через канал связи никакая информация в среднем не передаётся. Рост С, когда Рe> 0.5, означает, что под действием помех большинство символов инвертируется. И если работать в обратном коде, приписывая “1” символу y2, а “0” символу y1, то появляется снова возможность передавать информацию по каналу связи.

3.2.2 Пропускная способность непрерывного канала связи с помехами

Непрерывным каналом связи будем называть канал, по которому передаются непрерывные сообщения. Пропускную способность непрерывного канала определим, как и в случае дискретного канала, через максимальное среднее количество информации, передаваемой по каналу в единицу времени.

,                                        (3.18)

где t - временной интервал между дискретами сообщения; F- максимальная частота в спектре входного сообщения, которая соответствует полосе пропускания канала; - максимальное количество информации, в среднем передаваемое одним дискретом сообщения.

Если полагать, что полоса пропускания канала F задана, то определение С сведётся к нахождению . Пусть на входе линии связи канала действует сумма сигнала S(t) и белого шума n(t) со спектральной плотностью N0

,                                                        (3.19)

где сигнал рассматривается как низкочастотный стационарный случайный процесс, дисперсия которого равна, а спектральная плотность ограничена частотой F. Такое представление соответствует тому, что сигнал и сообщение как процессы совпадают между собой.

Линию связи представим в виде идеального ФНЧ с коэффициентом передачи, равным 1 в полосе F и равным 0 за её пределами. Тогда процесс на выходе линии связи запишется в вид

,                                                     (3.20)

где дисперсия суммарного процесса будет равна

.                                                     (3.21)

Равенство (3.21) соответствует тому, что процессы S(t) и  nвых(t) являются независимыми. При этом в силу идеальности ФНЧ дисперсия сигнала на выхода и входе линии связи будет одна и та же, а дисперсия nвых(t) будет равна

.                                                   (3.22)

Найдем пропускную способность непрерывного канала связи в предположении, что ,  в формуле (3.18) будем искать, накладывая ограничение на. Это означает, что максимальное количество информации будет иметь место, если передаётся гауссовское сообщение. Максимально вредное действие помехи при заданной 2 будет также тогда, когда nвых(t) распределена по гауссовскому закону.

При сделанных допущениях формула (3.8) с учетом (3.15), (3.21) примет вид

 

.                    (3.23)

Подставив (3.23) в выражение (3.18) с учетом (3.22), получим

.                                     (3.24)

Формула (3.24) определяет пропускную способность непрерывного канала связи в зависимости от полосы пропускания линии связи F, мощности сигнала и спектральной плотности шума N0. на входе линии связи. Выражение (3.24) называется формулой Шеннона. Формула Шеннона носит фундаментальный характер в том смысле, что показывает принципиальную роль шума как ограничителя пропускной способности.

Рассмотрим зависимость С от F при = const и N0 = const

Для пояснения хода графика на рис. найдем значение С при F = 0 и F = . В первом случае имеет место выполнение неравенства /N0F >> 1, поэтому (3.24) можно записать в виде

.                                                 (3.25)

Непосредственная подстановка F = 0 в формулу (3.25) даёт неопределённость типа "" Раскроем её, применив правило Лопиталя.

.                                  (3.26)

Во втором случае непосредственная подстановка F = в формулу (3.24) дает неопределённость типа "". Раскроем её, применив правило Лопиталя.

.      (3.27)

Из графика следует, что при малых F, область А, увеличение полосы пропускания F существенно увеличивает пропускную способность С. При больших F, область В, увеличение F слабо сказывается на росте С, так как С стремится к асимптотическому уровню, который параллелен оси F. Это означает, что при больших F для увеличения С надо или увеличивать мощность сигнала, или снижать спектральную плотность шума N0, то есть следует увеличивать асимптотический уровень.


 

А также другие работы, которые могут Вас заинтересовать

54323. МЕТОД ПРОЕКТІВ ЯК ТЕХНОЛОГІЯ НАВЧАННЯ 257.5 KB
  Метод проектів це метод в основі якого лежить розвиток пізнавальних творчих навичок студентів умінь самостійно конструювати свої знання орієнтуватися в інформаційному просторі критично мислити. Мета застосування методу полягає у формуванні навичок ефективного використання різних джерел інформації при навчанні студентів за допомогою інноваційних педагогічних технологій якими передбачається самостійна індивідуальна чи групова дослідницькопошукова та творча діяльність студентів підвищення рівня комунікабельності. Завдання методу...
54324. З’єднання болтом і шпилькою 496 KB
  Оформлення завдання Завдання виконується на креслярському папері в олівці у відповідність з правилами ЕСКД. Креслення повинне мати основний напис. Діаметри крізних отворів
54325. МЕТОДИЧНІ РЕКОМЕНДАЦІЇ ДО СТВОРЕННЯ НАВЧАЛЬНОГО ПРОЕКТУ 146.5 KB
  АНАТОМІЯ НАВЧАЛЬНОГО ПРОЕКТУ. Планування реалізації проекту. Методика управління для неосяжної кількості найрізноманітніших проектів має єдину структуру у якій можна виділити такі групи процесів: ініціації прийняття рішення щодо запуску проекту зазвичай завершується складанням і затвердженням уставу проекту із визначенням його мети терміну виконання критеріїв успіху призначенням та чітким окресленням повноважень керівника проекту; планування безперервне визначення кращих...
54326. Особливості використання кейс-методу при викладанні інженерної графік 704.5 KB
  Наявність головної умови використання кейс-методу при викладанні будь–якої дисципліни – наявність протиріч, на основі яких формуються і формулюються проблемні ситуації, задачі, практичні завдання для обговорення та знаходження оптимального розвязання учнями або студентами.
54327. Методичні рекомендації щодо формування комунікативно-мовленнєвих умінь в учнів початкових класів на уроках української мови в російськомовних класах 367.5 KB
  Діти що приходять у 1 клас особливо російськомовні мають обмежений словниковий запас для спілкування українською мовою. Наприклад: ТВАРИНИ Ведмідь медведь Лисиця лисица Вовк волк Заєць заяц Білка белка Їжак ежик Мавпа обезьяна Пташка птичка Жаба лягушка Ящірка ящерица Бобер бобёр Кажан летучая мышь Паралельно з цією карткою діти працюють з карткою з малюнками на якій намальовані ті предмети які були записані в картці словами. Скажіть діти кого із названих членів сім'ї ви вдома називаєте не так Пропоную з...
54328. Метод проектів як основа творчого розвитку особистості 170.5 KB
  Практична теоретична пізнавальна значимість передбачуваних результатів наприклад доповідь у відповідні служби про демографічний стан даного регіону фактори що впливають на цей стан тенденції що просліджуються в розвитку даної проблеми; спільний з партнером по проекту випуск газети альманаху з репортажами з місця подій; охорона лісу в різних місцевостях план заходів і т. Структурування змістовної частини проекту із указівкою поетапних результатів. Але незалежно від типу проекту всі вони в означеній мірі неповторні та унікальні;...
54329. Групування, формули, адресація, імена комірок, авто заповнення в Microsoft Excel (MICROSOFT OFFICE 2010) 429 KB
  Мета: Навчитися обєднувати дані за природними групами, користуватися документом, в якому є групування, створювати в комірках формули для обчислення нових даних, копіювати дані та формули, призначати імена коміркам, користуватися автозаповненням.
54330. ПРОЕКТНА ДІЯЛЬНІСТЬ НА УРОКАХ ІНФОРМАТИКИ 239.5 KB
  Це з одного боку сукупність прийомів операцій оволодіння певною областю практичного або теоретичного знання тієї чи іншої діяльності. Цей результат можна побачити осмислити застосувати в реальній практичній діяльності. Саме тому на уроках інформатики корисно вводити елементи проектної діяльності. Провідні принципи такої діяльності: Основні вимоги до проекту Необхідно наявність соціально значущої задачі проблеми дослідної інформаційної практичної.
54331. Застосування методу проектів на уроках світової літератури 797.5 KB
  У сучасній школі можна виділити чотири основні напрями при яких ефективно застосовувати методи проектів: 1 проект як метод навчання на уроці; 2 проектні технології дистанційного навчання; 3 для формування дослідницьких навичок школярів у позаурочній роботі;4 як метод організації дослідницької діяльності вчителів. Метод проектів знаходить все більше поширення у системі освіти різних країн світу. Із історії виникнення методу проектів Метод проектів не є принципово новим у світовій педагогіці. Метод проектів ефективна технологія навчання...