40150

ПРОПУСКНАЯ СПОСОБНОСТЬ КАНАЛА СВЯЗИ

Лекция

Коммуникация, связь, радиоэлектроника и цифровые приборы

Рассматривая появление символа алфавита как реализацию случайной величины можно найти энтропию сообщения на входе канала связи 3. Пусть в канале связи отсутствуют помехи. Пусть в канале связи действуют помехи рис.

Русский

2013-10-15

1.03 MB

68 чел.

PAGE   \* MERGEFORMAT 1

ПРОПУСКНАЯ СПОСОБНОСТЬ КАНАЛА СВЯЗИ

Информация на выходе канала связи

Рассмотрим дискретный канал связи. Пусть на его входе формируются дискретные сообщения с использованием алфавита из m символов х1, x2, ..., xm, вероятности которых равны р(x1), р(х2), ..., р(xm). Рассматривая появление символа алфавита как реализацию случайной величины  можно найти энтропию сообщения на входе канала связи

,                                            (3.1)

определяющую среднее количество информации, приходящейся на один символ входного сообщения.

Пусть в канале связи отсутствуют помехи. Тогда между символами на входе (x1, x2, ..., хm) и выходе (y1, y2, ..., ym) существует жёсткая связь. Это означает, что р(у1) = р(x1), p(y2) = Р(х2), .... р(ym) = р(хm) и энтропия на выходе

                                           (3.2)

равна энтропии на входе (рис. а).

Из (3.2) следует, что при отсутствии помех среднее количество информации, приходящейся на одни символ выходного сообщения, равно среднему количеству информации, приходящейся на один символ входного сообщения, при условии, что алфавиты входного и выходного сообщений совпадают.

Пусть в канале связи действуют помехи (рис. б). В этом случае появление символа уj на выходе может быть не только под действием символа xj на входе, но, вообще говоря, под действием любого хi входного символа. Это возможно потому, что сигнал, соответствующий какому-либо входному символу, может быть так искажён, что на выходе он будет восприниматься как сигнал, соответствующий другому символу. В этом случае количество информации которое заключено в символе уj, когда на входе действует символ хi, определится по формуле

,                                                  (3.3)

в которой p(yj) соответствует вероятности появления символа уj без учета действия помех. Так как в этом случае р(уj) = P(xj), то р(yj) следует рассматривать как априорную вероятность Р1 в формуле (3.1). В общем случае условная вероятность р(уj1) всегда меньше единицы :

так как из точки хi графа на рис. 18.1,б выходят ветви во все символы выходного алфавита и имеет место равенство

.

Условную вероятность р(yj|xi) следует рассматривать как апостериорную вероятность Р2 в формуле (3.1), считая, что  то есть приход символа уj не устраняет полностью имевшуюся ранее неопределённость о том, какой символ должен появиться.

Усреднив выражение (3.3) по всем возможным символам входного и выходного алфавита, то есть по всем i и j индексам, получим среднее количество информации, приходящееся на один символ сообщения на выходе канала связи:

,                                 (3.4)

где  - энтропия сообщения на выходе канала связи при отсутствии помех,  - условная энтропия выходного сообщения, характеризующая действие помех.

Условная энтропия, всегда заключена в пределах

.                                                          (3.5)

Действительно, если уj и хi жёстко связаны между собой, как это имеет место при отсутствии помех в канале связи (рис. а), то

.

В этом случае .

При сильной помехе, когда символы уj возникают на приёмном конце связи независимо от посылаемых хi, имеют место равенства:

.

Таким образом, при отсутствии помехи количество информации, приходящееся на один символ выходного сообщения, совпадает с энтропией входного сообщения

.                                                 (3.6)

А при сильной помехе информация, заключённая в символе хi, оказывается совершенно "размазанной" по всем символам уj, так что в среднем выходной символ уj никакой информации об хi не несет и количество информации, которое в среднем приходится на один символ сообщения уj, равно нулю:

.                                              (3.7)

С уменьшением уровня помехи указанная "размазанность" уменьшается, что математически соответствует выполнению неравенства. Поэтому в среднем по каналу связи один выходной символ передаёт информацию, определяемую выражением (3.4):

.                                                        (3.8)

Это меньше, чем информация, заключенная в одном символе входного сообщения. Указанное уменьшение информации, обусловленное действием помехи, учитывается условной энтропией.

Заметим, что формулы (3.4), (3.5), (3.7), (3.8) в полной мере справедливы и для непрерывного канала связи. В теоретической литературе иногда количество информации, заключённое в символе уj относительно символа хi и определяемое формулой (3.8), называется взаимной информацией.

3.2 Скорость передачи информации

и пропускная способность различных каналов связи

3.2.1 Скорость передачи информации и пропускная способность

цифрового канала связи при наличии помех

Канал связи называется цифровым, если передаваемые по нему дискретные сообщения можно представить в виде чисел. Например, при использовании двоичного кода, когда алфавит сообщений равен двум, символам x1 и х2 можно приписать соответственно цифры 1 и 0. Тогда кодовые комбинации, состоящие из трёх позиций, например х1х2х1, x2x1x2 , x2x1x1 записанные в виде 001, 010, 011, можно рассматривать как цифры 1, 2, 3 в двоичном коде.

Производительность источника сообщений характеризуется скоростью R создаваемой информации. Аналогично можно ввести понятие Rk - скорости передачи информации канала связи с помехами

,                                         (3.9)

где Ii количество информации, переносимой одним символом сообщения по каналу связи с помехами (3.8); F - полоса пропускания канала.

Пропускной способностью С канала связи будем называть наибольшее количество информации, которое может быть передано в единицу времени по этому каналу:

.                               (3.10)

В общем случае для нахождения пропускной способности необходимо максимизировать скорость передачи. Однако если считать, что полоса пропускания канала F и эффект действия помех  заданы, то максимизация скорости передачи сводится к определению максимума энтропии сообщения. Так как для дискретного сообщения максимум энтропии  зависит от алфавита, а при отсутствии помех , то пропускную способность цифрового канала связи можно определить выражением

.                                                 (3.11)

Найдём пропускную способность цифрового канала связи с помехами, по которому передаются кодовые комбинации с основанием кода, равным двум. Такой цифровой канал будем называть двоичным.

Граф двоичного канала

Из рассмотрения графа следует, что из-за действия помех входной символ х1("1") превращается в выходной символ у 1("1") с вероятностью (1-Рe), меньшей единицы, где Рe вероятность ошибки. С вероятностью Рe этот же символ х ("1") превращается (инвертируется) в символ у2("0"). Аналогично действует помеха и на символ x2.

Пропускная  способность двоичного канала связи согласно (3.11) будет равна

,                                                          (3.12)

где учтено, что log m = log 2 = 1. Предполагается, что символы х1 и х2 и, соответственно, символы у1, у2 при отсутствии помех равновероятны:

.

Найдём условную энтропию

.

Функцию  будем рассматривать как функцию двух переменных хi, уj. Заметим, что оператор математического ожидания < • > для системы двух непрерывных случайных величин раскрывается с помощью двойного интеграла от произведения функции двух переменных на двумерную плотность вероятности .  Аналогично этот же оператор < • > раскрывается для системы двух дискретных случайных величин с той только разницей, что интегрирование заменяется суммированием по всем индексам i, j:

,                                          (3.13)

где р(хij ) - двумерная вероятность символов хi и уj.

Так как в условиях помех символы хi и уj следует рассматривать как зависимые случайные величины, то согласно правилу произведения зависимых событий имеем

.                                         (3.14)

Подставив  (3.14) в выражение  (3.13), получим

,                                 (3.15)

где сначала суммируются все члены, зависящие от индекса j, a затем все члены, зависящие от i. Заметим, что р(х1,) = р(х2) = 0.5, р(у1х1 ) = р(у2х2) = 1-Рe , p(y1x2) = p(y2x1)= Pe  Подставив эти данные в (3.15), получим

.                                     (3.16)

Подставив результат (3.16) в формулу (3.12), получим окончательное выражение для пропускной способности двоичного цифрового канала связи

,                                     (3.17)

где F - полоса пропускания канала связи; Рe - вероятность ошибки при передаче двоичного символа.

Пропускная способность канала связи прямо пропорциональна полосе пропускания F и является сложной функцией вероятности ошибки Рe. Представляет интерес проследить зависимость С от Рe. Эта зависимость представлена на рис.

                                                                       Рe                                   

Если Рe = 0.5, то С = 0. Этот результат имеет ясную физическую трактовку. При Рe=0.5 символы у1, у2 на выходе канала связи воссоздаются вне всякой связи с символами на входе x1, х2. Это означает, что через канал связи никакая информация в среднем не передаётся. Рост С, когда Рe> 0.5, означает, что под действием помех большинство символов инвертируется. И если работать в обратном коде, приписывая “1” символу y2, а “0” символу y1, то появляется снова возможность передавать информацию по каналу связи.

3.2.2 Пропускная способность непрерывного канала связи с помехами

Непрерывным каналом связи будем называть канал, по которому передаются непрерывные сообщения. Пропускную способность непрерывного канала определим, как и в случае дискретного канала, через максимальное среднее количество информации, передаваемой по каналу в единицу времени.

,                                        (3.18)

где t - временной интервал между дискретами сообщения; F- максимальная частота в спектре входного сообщения, которая соответствует полосе пропускания канала; - максимальное количество информации, в среднем передаваемое одним дискретом сообщения.

Если полагать, что полоса пропускания канала F задана, то определение С сведётся к нахождению . Пусть на входе линии связи канала действует сумма сигнала S(t) и белого шума n(t) со спектральной плотностью N0

,                                                        (3.19)

где сигнал рассматривается как низкочастотный стационарный случайный процесс, дисперсия которого равна, а спектральная плотность ограничена частотой F. Такое представление соответствует тому, что сигнал и сообщение как процессы совпадают между собой.

Линию связи представим в виде идеального ФНЧ с коэффициентом передачи, равным 1 в полосе F и равным 0 за её пределами. Тогда процесс на выходе линии связи запишется в вид

,                                                     (3.20)

где дисперсия суммарного процесса будет равна

.                                                     (3.21)

Равенство (3.21) соответствует тому, что процессы S(t) и  nвых(t) являются независимыми. При этом в силу идеальности ФНЧ дисперсия сигнала на выхода и входе линии связи будет одна и та же, а дисперсия nвых(t) будет равна

.                                                   (3.22)

Найдем пропускную способность непрерывного канала связи в предположении, что ,  в формуле (3.18) будем искать, накладывая ограничение на. Это означает, что максимальное количество информации будет иметь место, если передаётся гауссовское сообщение. Максимально вредное действие помехи при заданной 2 будет также тогда, когда nвых(t) распределена по гауссовскому закону.

При сделанных допущениях формула (3.8) с учетом (3.15), (3.21) примет вид

 

.                    (3.23)

Подставив (3.23) в выражение (3.18) с учетом (3.22), получим

.                                     (3.24)

Формула (3.24) определяет пропускную способность непрерывного канала связи в зависимости от полосы пропускания линии связи F, мощности сигнала и спектральной плотности шума N0. на входе линии связи. Выражение (3.24) называется формулой Шеннона. Формула Шеннона носит фундаментальный характер в том смысле, что показывает принципиальную роль шума как ограничителя пропускной способности.

Рассмотрим зависимость С от F при = const и N0 = const

Для пояснения хода графика на рис. найдем значение С при F = 0 и F = . В первом случае имеет место выполнение неравенства /N0F >> 1, поэтому (3.24) можно записать в виде

.                                                 (3.25)

Непосредственная подстановка F = 0 в формулу (3.25) даёт неопределённость типа "" Раскроем её, применив правило Лопиталя.

.                                  (3.26)

Во втором случае непосредственная подстановка F = в формулу (3.24) дает неопределённость типа "". Раскроем её, применив правило Лопиталя.

.      (3.27)

Из графика следует, что при малых F, область А, увеличение полосы пропускания F существенно увеличивает пропускную способность С. При больших F, область В, увеличение F слабо сказывается на росте С, так как С стремится к асимптотическому уровню, который параллелен оси F. Это означает, что при больших F для увеличения С надо или увеличивать мощность сигнала, или снижать спектральную плотность шума N0, то есть следует увеличивать асимптотический уровень.


 

А также другие работы, которые могут Вас заинтересовать

19782. Графіка та графічні примітиви 28 KB
  2.Графіка та графічні примітиви Графіка спеціальна область інформатики що вивчає методи і засоби створення та обробки зображень за допомогою програмноапаратних комплексів. Графіка поділяється на: Растрову зображення будується по крапках. Комп'ютер зберігає
19783. Діалогові вікна. Компоненти OpenDialog, SaveDialog, FontDialog, ColorDialog 17.3 KB
  Діало́гове вікно́ особливий тип вікна яке задає запитання і дозволяє вибрати варіанти виконання дії або ж інформує користувача. Діалогові вікна зазвичай відображаються тоді коли програмі або операційній системі для подальшої роботи потрібна відповідь. На відмін
19784. Компоненти Splitter, Timer, Image, ScrollBar, тощо 17.86 KB
  Splitter Используется для создания в приложении панелей с изменяемыми пользователем размерами. Timer позволяет задавать в приложении интервалы времени. Таймер находит многочисленные применения: синхронизация мультипликации закрытие какихто окон с которыми пользователь...
19785. Компоненти StringGrid, RichEdit 17.38 KB
  StringGrid являє собою таблицю що містить рядки. Дані таблиці можуть бути тільки для читання або редагуються. Таблиця може мати смуги прокручування причому задане число перших рядків і стовпців може бути фіксованим і не прокручуватися. Таким чином можна задати заголовки ст
19786. Компоненти керування – Button, RadioButtonGroup, CheckBox, etc 28 KB
  Компоненти керування – Button RadioButton/Group CheckBox. Компоненти керування стандартні для Windows інтерфейсні елементи такі як головне і спливаюче меню кнопка однорядковий і багаторядковий редактори перемикачі мітки списки і деякі інші компоненти що застосовуються найчасті
19787. Компоненти списків ListBox, ComboBox 22 KB
  Компоненти списків ListBox ComboBox. Компоненти керування стандартні для Windows інтерфейсні елементи такі як головне і спливаюче меню кнопка однорядковий і багаторядковий редактори перемикачі мітки списки і деякі інші компоненти що застосовуються найчастіше. Компонент...
19788. Робота з текстом. Клас TStrings 16.16 KB
  При роботі з інформацією текстом потрібно виконувати її відображення введення і редагування. Підкреслимо що ми розглядаємо поняття текстав широкому сенсі припускаючи що до складу тексту можуть входити літери іціфри. При роботі з текстовими даними вони можуть об'єдну
19789. Розподіл оперативної пам’яті. Вказівники види, об’явлення, операції 34.5 KB
  4.Розподіл оперативної пам’яті. Вказівники: види об’явлення операції. Вказівником називається змінна яка містить в собі певниу адресу мається на увазі адресу в оперативній пам'яті. Як правило вказівники містять адресу деякої іншої змінної або виділеної д
19790. Створення меню. Компоненти MainMenu та PopupMenu 28 KB
  1.Створення меню. Компоненти MainMenu та PopupMenu. MainMenu невізуальний на відміну від візуальних компонентів TEdit і TLabel в точності відповідних своєму зовнішньому вигляду в працюючій програмі. Це означає що хоча його видно на формі як невеликий квадрат у вікні створеної програми ...