30569

Сходимости почти наверное и по вероятности

Доклад

Математика и математический анализ

Если то для любого Обобщенное неравенство Чебышёва Если то для любого Неравенство Чебышёва Если существует то для любого ЗБЧ ЗБЧ Чебышёва если имеет место сходимость ЗБЧ Маркова если т. Если существует то для любого Определение ЗБЧ. Говорят что последовательность случайных величин с конечными первыми моментами удовлетворяет закону больших чисел ЗБЧ если Законами больших чисел принято называть утверждения о том при каких условиях последовательность случайных величин удовлетворяет закону больших чисел. ЗБЧ Чебышёва.

Русский

2013-08-24

352.78 KB

9 чел.

Доска

  1.  п.н., если  
  2.  , если для любого

  1.  Неравенство Маркова.

Если , то для любого  

  1.  Обобщенное неравенство Чебышёва

Если , то для любого

  1.  Неравенство Чебышёва

Если существует, то для любого

  1.  ЗБЧ

  1.  ЗБЧ Чебышёва

если имеет место сходимость

 

  1.  ЗБЧ Маркова

если , т.е. если при .

Выступление

Сходимости "почти наверное" и "по вероятности"

Случайная величина есть (измеримая) функция из некоторого непустого множества в множество действительных чисел. Последовательность случайных величин есть тем самым последовательность функций, определенных на одном и том же множестве . Существуют разные виды сходимости последовательности функций.

Говорят, что последовательность сходится почти наверное к случайной величине при , и пишут: п.н., если . Иначе говоря, если при для всех , кроме, возможно, , где - событие, имеющее нулевую вероятность.

Заметим сразу: определение сходимости "почти наверное" требует знания того, как устроены отображения . В задачах же теории вероятностей, как правило, известны не сами случайные величины, а лишь их распределения.

Можем ли мы, обладая только информацией о распределениях, говорить о какой-либо сходимости последовательности случайных величин к случайной величине ?

Можно, скажем, потребовать, чтобы вероятность тех элементарных исходов , для которых не попадает в " -окрестность" числа , уменьшалась до нуля с ростом . Такая сходимость в функциональном анализе называется сходимостью "по мере", а в теории вероятностей - сходимостью "по вероятности".

Говорят, что последовательность случайных величин сходится по вероятности к случайной величине при , и пишут , если для любого

Неравенство Маркова

Чтобы доказывать сходимость по вероятности, требуется уметь вычислять при больших . Но для этого нужно знать распределение , что не всегда возможно.

Полезно иметь неравенства, позволяющие оценивать вероятность сверху. Тогда для доказательства сходимости по вероятности было бы достаточно устремить к нулю эту оценку.

Неравенство Маркова. Если , то для любого

Обобщенное неравенство Чебышёва. Пусть функция не убывает и неотрицательна на . Если , то для любого

Неравенство Чебышёва. Если существует, то для любого

Определение ЗБЧ. Говорят, что последовательность случайных величин с конечными первыми моментами удовлетворяет закону больших чисел (ЗБЧ), если

Законами больших чисел принято называть утверждения о том, при каких условиях последовательность случайных величин удовлетворяет закону больших чисел.

ЗБЧ Чебышёва. Для любой последовательности попарно независимых и одинаково распределенных случайных величин с конечным вторым моментом имеет место сходимость

(21)

Заметим, что если величины одинаково распределены, то их математические ожидания одинаковы (и равны, например, ), поэтому свойство (20) можно записать в виде (21).

ЗБЧ утверждает, что среднее арифметическое большого числа случайных слагаемых "стабилизируется" с ростом этого числа. Как бы сильно каждая случайная величина ни отклонялась от своего среднего значения, при суммировании эти отклонения "взаимно гасятся", так что среднее арифметическое приближается к постоянной величине.

ЗБЧ Маркова. Последовательность случайных величин с конечными вторыми моментами удовлетворяет ЗБЧ, если , т.е. если при .

Дополнительно

Общие сведения. При каждом новом мы имеем новую числовую последовательность Поэтому можно говорить о сходимости последовательности значений функций в данной точке , а также во всех остальных точках . В теории вероятностей можно не обращать внимание на неприятности, происходящие с нулевой вероятностью. Поэтому вместо сходимости "всюду" принято рассматривать сходимость "почти всюду", или "почти наверное".

Пример. Рассмотрим последовательность , в которой все величины имеют разные распределения: величина принимает значения и с вероятностями . Докажем, что эта последовательность сходится по вероятности к нулю.

Зафиксируем произвольное . Для всех начиная с некоторого такого, что , верно равенство . Поэтому

Итак, случайные величины с ростом могут принимать все большие и большие значения, но со все меньшей и меньшей вероятностью.

Например, последовательность можно задать на вероятностном пространстве так: положим для и для .

Заметим, что сходимость по вероятности имеет место совершенно независимо от того, как именно заданы случайные величины на , поскольку определяется лишь их распределениями.

Замечание. Иное дело - сходимость "почти наверное". Если, скажем, задать случайные величины как указано выше, то сходимость "почти наверное" будет иметь место. Действительно, для всякого найдется такое , что , и поэтому для всех все равны нулю.

Можно попробовать задать случайные величины на отрезке как-нибудь иначе, чтобы не было сходимости почти наверное. Для этого нужно заставить отрезок длины , на котором , "бегать" по отрезку , чтобы любая точка попадала внутрь этого отрезка бесконечное число раз, и, тем самым, для любого существовала подпоследовательность .

Сходимость по вероятности не обязательно сопровождается сходимостью математических ожиданий или моментов других порядков: из не следует, что . Действительно, в примере 70 имеет место сходимость , но . При этом вообще последовательность неограниченно возрастает.

А если вместо значения взять (с той же вероятностью ), то получим . Но теперь хотя бы предел у последовательности математических ожиданий конечен.

Если же принимает значения и с вероятностями из примера 70, то , но уже вторые моменты сходиться ко второму моменту не будут: .

Однако сходимость математических ожиданий и других моментов сходящихся последовательностей бывает чрезвычайно важна в различных задачах статистики. Существуют условия, при выполнении которых сходимость по вероятности влечет сходимость математических ожиданий .

Сформулируем без доказательства следующее утверждение.

Теорема. Сходимость по вероятности. Пусть при . Тогда для сходимости достаточно выполнения любого из следующих условий:

  1.  Все члены последовательности ограничены одной и той же постоянной: .
  2.  Все члены последовательности ограничены одной и той же случайной величиной с конечным первым моментом: ,
  3.  Существует такое, что при всех .

Самым слабым в этом списке является третье условие, наиболее ограничительным - первое. Ни одно из этих условий не является необходимым для сходимости математических ожиданий.

Сходимость по вероятности, так же как и любая другая сходимость, не портится под действием непрерывной функции.

Свойство 1. Пусть функция действует из в .

  1.  Если и функция непрерывна, то .
  2.  Если и непрерывна в точке , то .

Доказательство. Простое доказательство первого утверждения можно предложить в двух случаях, которыми мы и ограничимся: если (и тогда достаточно, чтобы была непрерывна в точке ) или если функция равномерно непрерывна.

И в том и в другом случае для любого найдется такое что для любого , удовлетворяющего условию , выполняется неравенство .

Другими словами, событие влечет за собой событие Следовательно, вероятность первого не больше вероятности второго. Но, какое бы ни было , вероятность первого события стремится к единице по определению сходимости по вероятности:

Тогда вероятность второго события также стремится к единице.

То же самое можно утверждать и для непрерывной функции многих переменных, примененной к нескольким сходящимся последовательностям.

Свойство 2. Пусть функция отображает в .

  1.  Если , при , функция всюду непрерывна, то .
  2.  Если , при , функция непрерывна в точке , то .

Доказательство. Воспользуемся определением непрерывности функции двух переменных: для любого найдется такое что для любого , принадлежащего одновременно двум событиям

выполняется неравенство

Тогда событие влечет событие поэтому вероятность первого не больше вероятности второго. Но вероятность пересечения двух событий, вероятности которых стремятся к единице, также стремится к единице:

Поэтому при .

Из свойства 22 вытекают обычные свойства пределов, хорошо знакомые нам по числовым последовательностям. Например, функции и непрерывны в , поэтому предел суммы (произведения) сходящихся по вероятности последовательностей равен сумме (произведению) пределов.

Свойство 3. Если и , то и .

Сходимость "почти наверное" сильнее сходимости по вероятности.

Свойство 4. Если п.н., то .

Доказательство. Ограничимся для простоты случаем, когда для любого . Зафиксируем . По определению предела, при , если для всякого найдется такое, что для всех выполняется неравенство .

Событие влечет событие . Тогда

по свойству (F2) функций распределения. Мы получили, что , т.е. .

Неравенство Маркова. Если , то для любого

Доказательство. Нам потребуется следующее понятие.

Определение. Назовем индикатором события случайную величину , равную единице, если событие произошло, и нулю, если не произошло.

По определению, величина имеет распределение Бернулли с параметром и ее математическое ожидание равно вероятности успеха . Индикаторы прямого и противоположного событий связаны равенством . Поэтому

Тогда . Осталось разделить обе части этого неравенства на положительное число .

Обобщенное неравенство Чебышёва. Пусть функция не убывает и неотрицательна на . Если , то для любого

Доказательство. Заметим, что , поскольку функция не убывает. Оценим последнюю вероятность по неравенству Маркова, которое можно применять в силу неотрицательности :

Неравенство Чебышёва. Если существует, то для любого

Доказательство. Для неравенство равносильно неравенству , поэтому

Неравенство Чебышёва позволяет, помимо всего прочего, получать абсолютные оценки для вероятности того, что стандартизованная случайная величина превзойдет некоторое значение: для любого

Например, при эта вероятность не превышает .

Определение ЗБЧ. Говорят, что последовательность случайных величин с конечными первыми моментами удовлетворяет закону больших чисел (ЗБЧ), если

(20)

Законами больших чисел принято называть утверждения о том, при каких условиях последовательность случайных величин удовлетворяет закону больших чисел.

Выясним сначала, когда выполнен ЗБЧ для последовательности независимых и одинаково распределенных случайных величин.

ЗБЧ Чебышёва. Для любой последовательности попарно независимых и одинаково распределенных случайных величин с конечным вторым моментом имеет место сходимость

(21)

Заметим, что если величины одинаково распределены, то их математические ожидания одинаковы (и равны, например, ), поэтому свойство (20) можно записать в виде (21).

ЗБЧ утверждает, что среднее арифметическое большого числа случайных слагаемых "стабилизируется" с ростом этого числа. Как бы сильно каждая случайная величина ни отклонялась от своего среднего значения, при суммировании эти отклонения "взаимно гасятся", так что среднее арифметическое приближается к постоянной величине.

В дальнейшем мы увидим, что требование конечности второго момента (или дисперсии) связано исключительно со способом доказательства, и что утверждение останется верным, если требовать существования только первого момента.

Доказательство. Обозначим через сумму первых случайных величин. Из линейности математического ожидания получим

Пусть . Воспользуемся неравенством Чебышёва (следствие 17):

так как . Дисперсия суммы превратилась в сумму дисперсий в силу попарной независимости слагаемых, из-за которой все ковариации в свойстве 19) обратились в нуль при .

Замечание. Мы не только доказали сходимость, но и получили оценку для вероятности среднему арифметическому любого числа попарно независимых и одинаково распределенных величин отличаться от более чем на заданное :

(23)

Попарную независимость слагаемых в ЗБЧ Чебышёва можно заменить их попарной некоррелированностью, ничего не меняя в доказательстве. ЗБЧ может выполняться и для последовательности зависимых и разнораспределенных слагаемых. Из неравенства Чебышёва сразу вытекает следующее достаточное условие выполнения ЗБЧ для последовательности произвольных случайных величин.

ЗБЧ Маркова. Последовательность случайных величин с конечными вторыми моментами удовлетворяет ЗБЧ, если , т.е. если при .

Теорема Маркова утверждает, что ЗБЧ выполнен, если дисперсия суммы слагаемых растет не слишком быстро с ростом .

Сильная зависимость слагаемых приводит обычно к невыполнению ЗБЧ. Если, например, и , то , и свойство (21) не выполнено. В этом случае не выполнено и достаточное условие для ЗБЧ: . Для одинаково распределенных слагаемых дисперсия суммы еще быстрее расти уже не может.

ЗБЧ Хинчина. Для любой последовательности независимых в совокупности и одинаково распределенных случайных величин с конечным первым моментом имеет место сходимость:

Итак, чтобы последовательность независимых и одинаково распределенных случайных величин удовлетворяла ЗБЧ, достаточно существования первого момента слагаемых. Более того, в условиях теоремы 38 имеет место и сходимость п.н. последовательности к . Это утверждение называется усиленным законом больших чисел (УЗБЧ) Колмогорова, и его мы доказывать не будем.

Получим в качестве следствия из ЗБЧ Чебышёва закон больших чисел Бернулли. В отличие от ЗБЧ Чебышёва, описывающего предельное поведение среднего арифметического случайных величин с произвольными распределениями, ЗБЧ Бернулли - утверждение только для схемы Бернулли.

ЗБЧ Бернулли. Пусть событие может произойти в любом из независимых испытаний с одной и той же вероятностью , и пусть - число осуществлений события в испытаниях. Тогда . При этом для любого

Доказательство. Заметим, что есть сумма независимых, одинаково распределенных случайных величин, имеющих распределение Бернулли с параметром (индикаторов того, что в соответствующем испытании произошло ): , где

и , . Осталось воспользоваться ЗБЧ в форме Чебышёва и неравенством (23).

Пример. Монета подбрасывается раз. Оценим вероятность того, что частота выпадения герба отличается от на или более.

Пусть - независимые случайные величины, каждая из которых имеет распределение Бернулли с параметром и равна единице, если при соответствующем подбрасывании выпал герб, и нулю иначе. Нужно оценить , где , а - число выпадений герба. Поскольку , искомая оценка сверху выглядит так:

Итак, неравенство Чебышёва позволяет заключить, что в среднем не более чем в четверти случаев при 10 000 подбрасываниях монеты частота выпадения герба будет отличаться от на одну сотую или больше.


 

А также другие работы, которые могут Вас заинтересовать

61486. История искусств 20.56 KB
  Кем он был: иконописцем портретистом живописцем Ученики: Портретистом Учитель: Какие портреты Антропова Алексея Петровича мы рассмотрели Ученики: Автопортрет портрет Незнакомки портрет Петра 3 портрет Екатерины...
61488. Характеристика либеральной и реакционной политики? Примеры такой политики Александра Ι 15.93 KB
  Почему Россия потерпела поражение в Крымской войне Как это поражение повлияло на экономическое и политическое положение в России Политической причиной поражения России в ходе Крымской войны...
61490. История возникновения шариковой ручки 21.01 KB
  Цели: создать условия для проведения исследовательской деятельности; установить этапы развития письменных принадлежностей от руки до стариковой ручки; развивать детский интерес любознательность.
61491. История. Древне-Русское государство 23.84 KB
  Борьба Руси с иноземными завоевателями. подготовить 1 вопрос а также принятие христианства на Руси и его историческое значение. Он сделал немало для укрепления Киевской Руси. И при нем же произошло крещение Руси.