40150

ПРОПУСКНАЯ СПОСОБНОСТЬ КАНАЛА СВЯЗИ

Лекция

Коммуникация, связь, радиоэлектроника и цифровые приборы

Рассматривая появление символа алфавита как реализацию случайной величины можно найти энтропию сообщения на входе канала связи 3. Пусть в канале связи отсутствуют помехи. Пусть в канале связи действуют помехи рис.

Русский

2013-10-15

1.03 MB

70 чел.

PAGE   \* MERGEFORMAT 1

ПРОПУСКНАЯ СПОСОБНОСТЬ КАНАЛА СВЯЗИ

Информация на выходе канала связи

Рассмотрим дискретный канал связи. Пусть на его входе формируются дискретные сообщения с использованием алфавита из m символов х1, x2, ..., xm, вероятности которых равны р(x1), р(х2), ..., р(xm). Рассматривая появление символа алфавита как реализацию случайной величины  можно найти энтропию сообщения на входе канала связи

,                                            (3.1)

определяющую среднее количество информации, приходящейся на один символ входного сообщения.

Пусть в канале связи отсутствуют помехи. Тогда между символами на входе (x1, x2, ..., хm) и выходе (y1, y2, ..., ym) существует жёсткая связь. Это означает, что р(у1) = р(x1), p(y2) = Р(х2), .... р(ym) = р(хm) и энтропия на выходе

                                           (3.2)

равна энтропии на входе (рис. а).

Из (3.2) следует, что при отсутствии помех среднее количество информации, приходящейся на одни символ выходного сообщения, равно среднему количеству информации, приходящейся на один символ входного сообщения, при условии, что алфавиты входного и выходного сообщений совпадают.

Пусть в канале связи действуют помехи (рис. б). В этом случае появление символа уj на выходе может быть не только под действием символа xj на входе, но, вообще говоря, под действием любого хi входного символа. Это возможно потому, что сигнал, соответствующий какому-либо входному символу, может быть так искажён, что на выходе он будет восприниматься как сигнал, соответствующий другому символу. В этом случае количество информации которое заключено в символе уj, когда на входе действует символ хi, определится по формуле

,                                                  (3.3)

в которой p(yj) соответствует вероятности появления символа уj без учета действия помех. Так как в этом случае р(уj) = P(xj), то р(yj) следует рассматривать как априорную вероятность Р1 в формуле (3.1). В общем случае условная вероятность р(уj1) всегда меньше единицы :

так как из точки хi графа на рис. 18.1,б выходят ветви во все символы выходного алфавита и имеет место равенство

.

Условную вероятность р(yj|xi) следует рассматривать как апостериорную вероятность Р2 в формуле (3.1), считая, что  то есть приход символа уj не устраняет полностью имевшуюся ранее неопределённость о том, какой символ должен появиться.

Усреднив выражение (3.3) по всем возможным символам входного и выходного алфавита, то есть по всем i и j индексам, получим среднее количество информации, приходящееся на один символ сообщения на выходе канала связи:

,                                 (3.4)

где  - энтропия сообщения на выходе канала связи при отсутствии помех,  - условная энтропия выходного сообщения, характеризующая действие помех.

Условная энтропия, всегда заключена в пределах

.                                                          (3.5)

Действительно, если уj и хi жёстко связаны между собой, как это имеет место при отсутствии помех в канале связи (рис. а), то

.

В этом случае .

При сильной помехе, когда символы уj возникают на приёмном конце связи независимо от посылаемых хi, имеют место равенства:

.

Таким образом, при отсутствии помехи количество информации, приходящееся на один символ выходного сообщения, совпадает с энтропией входного сообщения

.                                                 (3.6)

А при сильной помехе информация, заключённая в символе хi, оказывается совершенно "размазанной" по всем символам уj, так что в среднем выходной символ уj никакой информации об хi не несет и количество информации, которое в среднем приходится на один символ сообщения уj, равно нулю:

.                                              (3.7)

С уменьшением уровня помехи указанная "размазанность" уменьшается, что математически соответствует выполнению неравенства. Поэтому в среднем по каналу связи один выходной символ передаёт информацию, определяемую выражением (3.4):

.                                                        (3.8)

Это меньше, чем информация, заключенная в одном символе входного сообщения. Указанное уменьшение информации, обусловленное действием помехи, учитывается условной энтропией.

Заметим, что формулы (3.4), (3.5), (3.7), (3.8) в полной мере справедливы и для непрерывного канала связи. В теоретической литературе иногда количество информации, заключённое в символе уj относительно символа хi и определяемое формулой (3.8), называется взаимной информацией.

3.2 Скорость передачи информации

и пропускная способность различных каналов связи

3.2.1 Скорость передачи информации и пропускная способность

цифрового канала связи при наличии помех

Канал связи называется цифровым, если передаваемые по нему дискретные сообщения можно представить в виде чисел. Например, при использовании двоичного кода, когда алфавит сообщений равен двум, символам x1 и х2 можно приписать соответственно цифры 1 и 0. Тогда кодовые комбинации, состоящие из трёх позиций, например х1х2х1, x2x1x2 , x2x1x1 записанные в виде 001, 010, 011, можно рассматривать как цифры 1, 2, 3 в двоичном коде.

Производительность источника сообщений характеризуется скоростью R создаваемой информации. Аналогично можно ввести понятие Rk - скорости передачи информации канала связи с помехами

,                                         (3.9)

где Ii количество информации, переносимой одним символом сообщения по каналу связи с помехами (3.8); F - полоса пропускания канала.

Пропускной способностью С канала связи будем называть наибольшее количество информации, которое может быть передано в единицу времени по этому каналу:

.                               (3.10)

В общем случае для нахождения пропускной способности необходимо максимизировать скорость передачи. Однако если считать, что полоса пропускания канала F и эффект действия помех  заданы, то максимизация скорости передачи сводится к определению максимума энтропии сообщения. Так как для дискретного сообщения максимум энтропии  зависит от алфавита, а при отсутствии помех , то пропускную способность цифрового канала связи можно определить выражением

.                                                 (3.11)

Найдём пропускную способность цифрового канала связи с помехами, по которому передаются кодовые комбинации с основанием кода, равным двум. Такой цифровой канал будем называть двоичным.

Граф двоичного канала

Из рассмотрения графа следует, что из-за действия помех входной символ х1("1") превращается в выходной символ у 1("1") с вероятностью (1-Рe), меньшей единицы, где Рe вероятность ошибки. С вероятностью Рe этот же символ х ("1") превращается (инвертируется) в символ у2("0"). Аналогично действует помеха и на символ x2.

Пропускная  способность двоичного канала связи согласно (3.11) будет равна

,                                                          (3.12)

где учтено, что log m = log 2 = 1. Предполагается, что символы х1 и х2 и, соответственно, символы у1, у2 при отсутствии помех равновероятны:

.

Найдём условную энтропию

.

Функцию  будем рассматривать как функцию двух переменных хi, уj. Заметим, что оператор математического ожидания < • > для системы двух непрерывных случайных величин раскрывается с помощью двойного интеграла от произведения функции двух переменных на двумерную плотность вероятности .  Аналогично этот же оператор < • > раскрывается для системы двух дискретных случайных величин с той только разницей, что интегрирование заменяется суммированием по всем индексам i, j:

,                                          (3.13)

где р(хij ) - двумерная вероятность символов хi и уj.

Так как в условиях помех символы хi и уj следует рассматривать как зависимые случайные величины, то согласно правилу произведения зависимых событий имеем

.                                         (3.14)

Подставив  (3.14) в выражение  (3.13), получим

,                                 (3.15)

где сначала суммируются все члены, зависящие от индекса j, a затем все члены, зависящие от i. Заметим, что р(х1,) = р(х2) = 0.5, р(у1х1 ) = р(у2х2) = 1-Рe , p(y1x2) = p(y2x1)= Pe  Подставив эти данные в (3.15), получим

.                                     (3.16)

Подставив результат (3.16) в формулу (3.12), получим окончательное выражение для пропускной способности двоичного цифрового канала связи

,                                     (3.17)

где F - полоса пропускания канала связи; Рe - вероятность ошибки при передаче двоичного символа.

Пропускная способность канала связи прямо пропорциональна полосе пропускания F и является сложной функцией вероятности ошибки Рe. Представляет интерес проследить зависимость С от Рe. Эта зависимость представлена на рис.

                                                                       Рe                                   

Если Рe = 0.5, то С = 0. Этот результат имеет ясную физическую трактовку. При Рe=0.5 символы у1, у2 на выходе канала связи воссоздаются вне всякой связи с символами на входе x1, х2. Это означает, что через канал связи никакая информация в среднем не передаётся. Рост С, когда Рe> 0.5, означает, что под действием помех большинство символов инвертируется. И если работать в обратном коде, приписывая “1” символу y2, а “0” символу y1, то появляется снова возможность передавать информацию по каналу связи.

3.2.2 Пропускная способность непрерывного канала связи с помехами

Непрерывным каналом связи будем называть канал, по которому передаются непрерывные сообщения. Пропускную способность непрерывного канала определим, как и в случае дискретного канала, через максимальное среднее количество информации, передаваемой по каналу в единицу времени.

,                                        (3.18)

где t - временной интервал между дискретами сообщения; F- максимальная частота в спектре входного сообщения, которая соответствует полосе пропускания канала; - максимальное количество информации, в среднем передаваемое одним дискретом сообщения.

Если полагать, что полоса пропускания канала F задана, то определение С сведётся к нахождению . Пусть на входе линии связи канала действует сумма сигнала S(t) и белого шума n(t) со спектральной плотностью N0

,                                                        (3.19)

где сигнал рассматривается как низкочастотный стационарный случайный процесс, дисперсия которого равна, а спектральная плотность ограничена частотой F. Такое представление соответствует тому, что сигнал и сообщение как процессы совпадают между собой.

Линию связи представим в виде идеального ФНЧ с коэффициентом передачи, равным 1 в полосе F и равным 0 за её пределами. Тогда процесс на выходе линии связи запишется в вид

,                                                     (3.20)

где дисперсия суммарного процесса будет равна

.                                                     (3.21)

Равенство (3.21) соответствует тому, что процессы S(t) и  nвых(t) являются независимыми. При этом в силу идеальности ФНЧ дисперсия сигнала на выхода и входе линии связи будет одна и та же, а дисперсия nвых(t) будет равна

.                                                   (3.22)

Найдем пропускную способность непрерывного канала связи в предположении, что ,  в формуле (3.18) будем искать, накладывая ограничение на. Это означает, что максимальное количество информации будет иметь место, если передаётся гауссовское сообщение. Максимально вредное действие помехи при заданной 2 будет также тогда, когда nвых(t) распределена по гауссовскому закону.

При сделанных допущениях формула (3.8) с учетом (3.15), (3.21) примет вид

 

.                    (3.23)

Подставив (3.23) в выражение (3.18) с учетом (3.22), получим

.                                     (3.24)

Формула (3.24) определяет пропускную способность непрерывного канала связи в зависимости от полосы пропускания линии связи F, мощности сигнала и спектральной плотности шума N0. на входе линии связи. Выражение (3.24) называется формулой Шеннона. Формула Шеннона носит фундаментальный характер в том смысле, что показывает принципиальную роль шума как ограничителя пропускной способности.

Рассмотрим зависимость С от F при = const и N0 = const

Для пояснения хода графика на рис. найдем значение С при F = 0 и F = . В первом случае имеет место выполнение неравенства /N0F >> 1, поэтому (3.24) можно записать в виде

.                                                 (3.25)

Непосредственная подстановка F = 0 в формулу (3.25) даёт неопределённость типа "" Раскроем её, применив правило Лопиталя.

.                                  (3.26)

Во втором случае непосредственная подстановка F = в формулу (3.24) дает неопределённость типа "". Раскроем её, применив правило Лопиталя.

.      (3.27)

Из графика следует, что при малых F, область А, увеличение полосы пропускания F существенно увеличивает пропускную способность С. При больших F, область В, увеличение F слабо сказывается на росте С, так как С стремится к асимптотическому уровню, который параллелен оси F. Это означает, что при больших F для увеличения С надо или увеличивать мощность сигнала, или снижать спектральную плотность шума N0, то есть следует увеличивать асимптотический уровень.


 

А также другие работы, которые могут Вас заинтересовать

45471. ОПРЕДЕЛЕНИЕ И ЗАДАЧИ ИНФОРМАЦИОННОЙ ТЕХНОЛОГИИ 47 KB
  Для любой технологии могут быть выделены цель предмет и средства. Целью технологии в промышленном производстве является повышение качества продукции сокращение сроков ее изготовления и снижение себестоимости. Методология любой технологии включает в себя: декомпозицию производственного процесса на отдельные взаимосвязанные и подчиненные составляющие стадии этапы фазы операции; реализацию определенной последовательности выполнения операций фаз этапов и стадий производственного процесса в соответствии с целью технологии;...
45472. ТРАНСПОРТИРОВАНИЕ ИНФОРМАЦИИ 75.5 KB
  При разработке и использовании сетей для обеспечения совместимости используется ряд стандартов объединенных в семиуровневую модель открытых систем принятую во всем мире и определяющую правила взаимодействия компонентов сети на данном уровне протокол уровня и правила взаимодействия компонентов различных уровней межуровневый интерфейс Международные стандарты в области сетевого информационного обмена нашли отражение в эталонной семиуровневой модели известной как модель OSI Open System Intercongtction связь открытых систем...
45473. ОБРАБОТКА ИНФОРМАЦИИ 62 KB
  Широкая альтернатива принимаемых решений приводит к необходимости использования разнообразных математических моделей Создание документов сводок отчетов заключается в преобразовании информации в формы пригодные для чтения как человеком так и компьютером. Принятие решений в условиях определенности. Поэтому между выбранной стратегией использования ресурсов и конечным результатом существует однозначная связь откуда следует что в условиях определенности достаточно использовать решающее правило для оценки полезности вариантов решений...
45474. ХРАНЕНИЕ ИНФОРМАЦИИ 1.07 MB
  В настоящее время определяющим направлением реализации этой операции является концепция базы данных склада хранилища данных. База данных может быть определена как совокупность взаимосвязанных данных используемых несколькими пользователями и хранящихся с регулируемой избыточностью. Банк данных система представляющая определенные услуги по хранению и поиску данных определенной группе пользователей по определенной тематике. Система баз данных совокупность управляющей системы прикладного программного обеспечения базы данных...
45475. ПРЕДСТАВЛЕНИЕ И ИСПОЛЬЗОВАНИЕ ИНФОРМАЦИИ 52.5 KB
  Важным признаком который необходимо учитывать при разработке и внедрении информационных технологий является отношение человека к информации. Основной задачей операции представления информации пользователю является создание эффективного интерфейса в системе человек компьютер. При этом осуществляется преобразование информации в форму удобную для восприятия пользователя.
45476. Базовые информационные технологии МУЛЬТИМЕДИА-ТЕХНОЛОГИИ 30 KB
  Достигнутый технологический базис основан на использовании нового стандарта оптического носителя DVD Digitl Verslite Video Disk Использование DVD позволило реализовать концепцию однородности цифровой информации. Для решения этой проблемы используются методы компрессии звуковой информации. Такие значительные объемы при реализации аудио и видеорядов определяют высокие требования к носителю информации видеопамяти и скорости передачи информации.
45477. ГЕОИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ 27 KB
  Таким образом геоинформационные технологии предназначены для широкого внедрения в практику методов и средств работы с пространственновременными данными представляемыми в виде системы электронных карт и предметноориентированных сред обработки разнородной информации для различных категорий пользователей. Основные области использования ГИС: электронные карты; городское хозяйство; государственный земельный кадастр; экология; дистанционное зондирование; экономика; специальные системы военного назначения.
45478. Технология защиты информации 430.5 KB
  Выделяют следующие основные группы причин сбоев и отказов в работе компьютерных систем: нарушения физической и логической целостности хранящихся в оперативной и внешней памяти структур данных возникающие по причине старения или преждевременного износа их носителей; нарушения возникающие в работе аппаратных средств изза их старения или преждевременного износа; нарушения физической и логической целостности хранящихся в оперативной и внешней памяти структур данных возникающие по причине некорректного использования компьютерных...
45479. CASE-ТЕХНОЛОГИИ 53.5 KB
  Объектноориентированный подход основан на объектной декомпозиции с описанием поведения системы в терминах взаимодействия объектов. В силу этих причин в настоящее время наибольшее распространение получил объектноориентированный подход. Под CSEтехнологией будем понимать комплекс программных средств поддерживающих процессы создания и сопровождения программного обеспечения включая анализ и формулировку требований проектирование генерацию кода тестирование документирование обеспечение качества конфигурационное управление и управление...