30569

Сходимости почти наверное и по вероятности

Доклад

Математика и математический анализ

Если то для любого Обобщенное неравенство Чебышёва Если то для любого Неравенство Чебышёва Если существует то для любого ЗБЧ ЗБЧ Чебышёва если имеет место сходимость ЗБЧ Маркова если т. Если существует то для любого Определение ЗБЧ. Говорят что последовательность случайных величин с конечными первыми моментами удовлетворяет закону больших чисел ЗБЧ если Законами больших чисел принято называть утверждения о том при каких условиях последовательность случайных величин удовлетворяет закону больших чисел. ЗБЧ Чебышёва.

Русский

2013-08-24

352.78 KB

11 чел.

Доска

  1.  п.н., если  
  2.  , если для любого

  1.  Неравенство Маркова.

Если , то для любого  

  1.  Обобщенное неравенство Чебышёва

Если , то для любого

  1.  Неравенство Чебышёва

Если существует, то для любого

  1.  ЗБЧ

  1.  ЗБЧ Чебышёва

если имеет место сходимость

 

  1.  ЗБЧ Маркова

если , т.е. если при .

Выступление

Сходимости "почти наверное" и "по вероятности"

Случайная величина есть (измеримая) функция из некоторого непустого множества в множество действительных чисел. Последовательность случайных величин есть тем самым последовательность функций, определенных на одном и том же множестве . Существуют разные виды сходимости последовательности функций.

Говорят, что последовательность сходится почти наверное к случайной величине при , и пишут: п.н., если . Иначе говоря, если при для всех , кроме, возможно, , где - событие, имеющее нулевую вероятность.

Заметим сразу: определение сходимости "почти наверное" требует знания того, как устроены отображения . В задачах же теории вероятностей, как правило, известны не сами случайные величины, а лишь их распределения.

Можем ли мы, обладая только информацией о распределениях, говорить о какой-либо сходимости последовательности случайных величин к случайной величине ?

Можно, скажем, потребовать, чтобы вероятность тех элементарных исходов , для которых не попадает в " -окрестность" числа , уменьшалась до нуля с ростом . Такая сходимость в функциональном анализе называется сходимостью "по мере", а в теории вероятностей - сходимостью "по вероятности".

Говорят, что последовательность случайных величин сходится по вероятности к случайной величине при , и пишут , если для любого

Неравенство Маркова

Чтобы доказывать сходимость по вероятности, требуется уметь вычислять при больших . Но для этого нужно знать распределение , что не всегда возможно.

Полезно иметь неравенства, позволяющие оценивать вероятность сверху. Тогда для доказательства сходимости по вероятности было бы достаточно устремить к нулю эту оценку.

Неравенство Маркова. Если , то для любого

Обобщенное неравенство Чебышёва. Пусть функция не убывает и неотрицательна на . Если , то для любого

Неравенство Чебышёва. Если существует, то для любого

Определение ЗБЧ. Говорят, что последовательность случайных величин с конечными первыми моментами удовлетворяет закону больших чисел (ЗБЧ), если

Законами больших чисел принято называть утверждения о том, при каких условиях последовательность случайных величин удовлетворяет закону больших чисел.

ЗБЧ Чебышёва. Для любой последовательности попарно независимых и одинаково распределенных случайных величин с конечным вторым моментом имеет место сходимость

(21)

Заметим, что если величины одинаково распределены, то их математические ожидания одинаковы (и равны, например, ), поэтому свойство (20) можно записать в виде (21).

ЗБЧ утверждает, что среднее арифметическое большого числа случайных слагаемых "стабилизируется" с ростом этого числа. Как бы сильно каждая случайная величина ни отклонялась от своего среднего значения, при суммировании эти отклонения "взаимно гасятся", так что среднее арифметическое приближается к постоянной величине.

ЗБЧ Маркова. Последовательность случайных величин с конечными вторыми моментами удовлетворяет ЗБЧ, если , т.е. если при .

Дополнительно

Общие сведения. При каждом новом мы имеем новую числовую последовательность Поэтому можно говорить о сходимости последовательности значений функций в данной точке , а также во всех остальных точках . В теории вероятностей можно не обращать внимание на неприятности, происходящие с нулевой вероятностью. Поэтому вместо сходимости "всюду" принято рассматривать сходимость "почти всюду", или "почти наверное".

Пример. Рассмотрим последовательность , в которой все величины имеют разные распределения: величина принимает значения и с вероятностями . Докажем, что эта последовательность сходится по вероятности к нулю.

Зафиксируем произвольное . Для всех начиная с некоторого такого, что , верно равенство . Поэтому

Итак, случайные величины с ростом могут принимать все большие и большие значения, но со все меньшей и меньшей вероятностью.

Например, последовательность можно задать на вероятностном пространстве так: положим для и для .

Заметим, что сходимость по вероятности имеет место совершенно независимо от того, как именно заданы случайные величины на , поскольку определяется лишь их распределениями.

Замечание. Иное дело - сходимость "почти наверное". Если, скажем, задать случайные величины как указано выше, то сходимость "почти наверное" будет иметь место. Действительно, для всякого найдется такое , что , и поэтому для всех все равны нулю.

Можно попробовать задать случайные величины на отрезке как-нибудь иначе, чтобы не было сходимости почти наверное. Для этого нужно заставить отрезок длины , на котором , "бегать" по отрезку , чтобы любая точка попадала внутрь этого отрезка бесконечное число раз, и, тем самым, для любого существовала подпоследовательность .

Сходимость по вероятности не обязательно сопровождается сходимостью математических ожиданий или моментов других порядков: из не следует, что . Действительно, в примере 70 имеет место сходимость , но . При этом вообще последовательность неограниченно возрастает.

А если вместо значения взять (с той же вероятностью ), то получим . Но теперь хотя бы предел у последовательности математических ожиданий конечен.

Если же принимает значения и с вероятностями из примера 70, то , но уже вторые моменты сходиться ко второму моменту не будут: .

Однако сходимость математических ожиданий и других моментов сходящихся последовательностей бывает чрезвычайно важна в различных задачах статистики. Существуют условия, при выполнении которых сходимость по вероятности влечет сходимость математических ожиданий .

Сформулируем без доказательства следующее утверждение.

Теорема. Сходимость по вероятности. Пусть при . Тогда для сходимости достаточно выполнения любого из следующих условий:

  1.  Все члены последовательности ограничены одной и той же постоянной: .
  2.  Все члены последовательности ограничены одной и той же случайной величиной с конечным первым моментом: ,
  3.  Существует такое, что при всех .

Самым слабым в этом списке является третье условие, наиболее ограничительным - первое. Ни одно из этих условий не является необходимым для сходимости математических ожиданий.

Сходимость по вероятности, так же как и любая другая сходимость, не портится под действием непрерывной функции.

Свойство 1. Пусть функция действует из в .

  1.  Если и функция непрерывна, то .
  2.  Если и непрерывна в точке , то .

Доказательство. Простое доказательство первого утверждения можно предложить в двух случаях, которыми мы и ограничимся: если (и тогда достаточно, чтобы была непрерывна в точке ) или если функция равномерно непрерывна.

И в том и в другом случае для любого найдется такое что для любого , удовлетворяющего условию , выполняется неравенство .

Другими словами, событие влечет за собой событие Следовательно, вероятность первого не больше вероятности второго. Но, какое бы ни было , вероятность первого события стремится к единице по определению сходимости по вероятности:

Тогда вероятность второго события также стремится к единице.

То же самое можно утверждать и для непрерывной функции многих переменных, примененной к нескольким сходящимся последовательностям.

Свойство 2. Пусть функция отображает в .

  1.  Если , при , функция всюду непрерывна, то .
  2.  Если , при , функция непрерывна в точке , то .

Доказательство. Воспользуемся определением непрерывности функции двух переменных: для любого найдется такое что для любого , принадлежащего одновременно двум событиям

выполняется неравенство

Тогда событие влечет событие поэтому вероятность первого не больше вероятности второго. Но вероятность пересечения двух событий, вероятности которых стремятся к единице, также стремится к единице:

Поэтому при .

Из свойства 22 вытекают обычные свойства пределов, хорошо знакомые нам по числовым последовательностям. Например, функции и непрерывны в , поэтому предел суммы (произведения) сходящихся по вероятности последовательностей равен сумме (произведению) пределов.

Свойство 3. Если и , то и .

Сходимость "почти наверное" сильнее сходимости по вероятности.

Свойство 4. Если п.н., то .

Доказательство. Ограничимся для простоты случаем, когда для любого . Зафиксируем . По определению предела, при , если для всякого найдется такое, что для всех выполняется неравенство .

Событие влечет событие . Тогда

по свойству (F2) функций распределения. Мы получили, что , т.е. .

Неравенство Маркова. Если , то для любого

Доказательство. Нам потребуется следующее понятие.

Определение. Назовем индикатором события случайную величину , равную единице, если событие произошло, и нулю, если не произошло.

По определению, величина имеет распределение Бернулли с параметром и ее математическое ожидание равно вероятности успеха . Индикаторы прямого и противоположного событий связаны равенством . Поэтому

Тогда . Осталось разделить обе части этого неравенства на положительное число .

Обобщенное неравенство Чебышёва. Пусть функция не убывает и неотрицательна на . Если , то для любого

Доказательство. Заметим, что , поскольку функция не убывает. Оценим последнюю вероятность по неравенству Маркова, которое можно применять в силу неотрицательности :

Неравенство Чебышёва. Если существует, то для любого

Доказательство. Для неравенство равносильно неравенству , поэтому

Неравенство Чебышёва позволяет, помимо всего прочего, получать абсолютные оценки для вероятности того, что стандартизованная случайная величина превзойдет некоторое значение: для любого

Например, при эта вероятность не превышает .

Определение ЗБЧ. Говорят, что последовательность случайных величин с конечными первыми моментами удовлетворяет закону больших чисел (ЗБЧ), если

(20)

Законами больших чисел принято называть утверждения о том, при каких условиях последовательность случайных величин удовлетворяет закону больших чисел.

Выясним сначала, когда выполнен ЗБЧ для последовательности независимых и одинаково распределенных случайных величин.

ЗБЧ Чебышёва. Для любой последовательности попарно независимых и одинаково распределенных случайных величин с конечным вторым моментом имеет место сходимость

(21)

Заметим, что если величины одинаково распределены, то их математические ожидания одинаковы (и равны, например, ), поэтому свойство (20) можно записать в виде (21).

ЗБЧ утверждает, что среднее арифметическое большого числа случайных слагаемых "стабилизируется" с ростом этого числа. Как бы сильно каждая случайная величина ни отклонялась от своего среднего значения, при суммировании эти отклонения "взаимно гасятся", так что среднее арифметическое приближается к постоянной величине.

В дальнейшем мы увидим, что требование конечности второго момента (или дисперсии) связано исключительно со способом доказательства, и что утверждение останется верным, если требовать существования только первого момента.

Доказательство. Обозначим через сумму первых случайных величин. Из линейности математического ожидания получим

Пусть . Воспользуемся неравенством Чебышёва (следствие 17):

так как . Дисперсия суммы превратилась в сумму дисперсий в силу попарной независимости слагаемых, из-за которой все ковариации в свойстве 19) обратились в нуль при .

Замечание. Мы не только доказали сходимость, но и получили оценку для вероятности среднему арифметическому любого числа попарно независимых и одинаково распределенных величин отличаться от более чем на заданное :

(23)

Попарную независимость слагаемых в ЗБЧ Чебышёва можно заменить их попарной некоррелированностью, ничего не меняя в доказательстве. ЗБЧ может выполняться и для последовательности зависимых и разнораспределенных слагаемых. Из неравенства Чебышёва сразу вытекает следующее достаточное условие выполнения ЗБЧ для последовательности произвольных случайных величин.

ЗБЧ Маркова. Последовательность случайных величин с конечными вторыми моментами удовлетворяет ЗБЧ, если , т.е. если при .

Теорема Маркова утверждает, что ЗБЧ выполнен, если дисперсия суммы слагаемых растет не слишком быстро с ростом .

Сильная зависимость слагаемых приводит обычно к невыполнению ЗБЧ. Если, например, и , то , и свойство (21) не выполнено. В этом случае не выполнено и достаточное условие для ЗБЧ: . Для одинаково распределенных слагаемых дисперсия суммы еще быстрее расти уже не может.

ЗБЧ Хинчина. Для любой последовательности независимых в совокупности и одинаково распределенных случайных величин с конечным первым моментом имеет место сходимость:

Итак, чтобы последовательность независимых и одинаково распределенных случайных величин удовлетворяла ЗБЧ, достаточно существования первого момента слагаемых. Более того, в условиях теоремы 38 имеет место и сходимость п.н. последовательности к . Это утверждение называется усиленным законом больших чисел (УЗБЧ) Колмогорова, и его мы доказывать не будем.

Получим в качестве следствия из ЗБЧ Чебышёва закон больших чисел Бернулли. В отличие от ЗБЧ Чебышёва, описывающего предельное поведение среднего арифметического случайных величин с произвольными распределениями, ЗБЧ Бернулли - утверждение только для схемы Бернулли.

ЗБЧ Бернулли. Пусть событие может произойти в любом из независимых испытаний с одной и той же вероятностью , и пусть - число осуществлений события в испытаниях. Тогда . При этом для любого

Доказательство. Заметим, что есть сумма независимых, одинаково распределенных случайных величин, имеющих распределение Бернулли с параметром (индикаторов того, что в соответствующем испытании произошло ): , где

и , . Осталось воспользоваться ЗБЧ в форме Чебышёва и неравенством (23).

Пример. Монета подбрасывается раз. Оценим вероятность того, что частота выпадения герба отличается от на или более.

Пусть - независимые случайные величины, каждая из которых имеет распределение Бернулли с параметром и равна единице, если при соответствующем подбрасывании выпал герб, и нулю иначе. Нужно оценить , где , а - число выпадений герба. Поскольку , искомая оценка сверху выглядит так:

Итак, неравенство Чебышёва позволяет заключить, что в среднем не более чем в четверти случаев при 10 000 подбрасываниях монеты частота выпадения герба будет отличаться от на одну сотую или больше.


 

А также другие работы, которые могут Вас заинтересовать

79700. Нормативно-правовой акт и его виды 41.5 KB
  Обозначенные отличия нормативно-правового акта от иных источников права являются и выражением основных признаков нормативно-правового акта. Что касается видов, тот требуется более четкого рассмотрения каждого в по отдельности, как закона так и подзаконного акта.
79701. Правотворчество и систематизация законодательства 61 KB
  К способам правотворчества относят: Принятие нормативноправовых актов органами государства Принятие нормативных актов народом путем референдума Заключение различного рода нормативных договоров Признание юридических прецедентов Санкционирование обычаев или норм выработанных негосударственными организациями. В юриспруденции выработан ряд принципов правотворчества выражающихся в следующих закрепленных принципах: Принцип демократизма население должно привлекаться к участию в правотворчестве а его мнение учитываться при разработке и...
79702. ТИПЫ ПРАВА 42.5 KB
  В теории права существуют два подхода к типологии: формационный и цивилизационный. Основное место в классификации подходов отдано рассмотрению типов права, выделяемых в рамках первого - формационного подхода.
79703. ПРАВОВЫЕ СЕМЬИ СОВРЕМЕННОСТИ 65.5 KB
  Современная юридическая наука изучая теорию права предпочитает оперировать не понятием тип права а такими научными категориями как правовая система и правовая семья. Соответственно выделяют следующие основные правовые семьи: романогерманскую континентальную; англосаксонскую семью общего права; семью социалистического права; мусульманскую; африканскую. Строгая иерархия источников форм права среди которых безусловно главным является закон. Деление права на частное и публичное.
79704. Система права и система законодательства 60.5 KB
  Различия, существующие между понятиями «система права» и «правовая система» позволяет отделять два объекта изучения друг от друга: система права представляет собой лишь один из элементов правовой системы государства, наряду с правоотношениями, правосознанием, юридическими принципами и институтами, правовой культурой общества и др
79705. ПРАВОВАЯ НОРМА. ВИДЫ НОРМ ПРАВА. СТРУКТУРА НОРМЫ ПРАВА 104 KB
  Поскольку норма права представляет собой одну из разновидностей социальных норм, целесообразно вспомнить определение понятия «социальная норма» и перечислить уже известные виды социальных норм. Основываясь на знаниях можно определить, что под нормой права
79706. Реализация права. Пробелы в праве и юридические коллизии. Акт применения права 133 KB
  Начиная рассмотрение вопроса о реализации права, следует обратить внимание на то, что издание правовых норм не является самоцелью. Нормы права издаются для того, чтобы они реализовывались, претворялись в жизнь.
79707. Понятие и признаки правоотношения. Юридические факты, их виды. Юридические презумпции и юридические фикции 94 KB
  Под правоотношением в широком смысле понимается возникшая до ее закрепления в закону особая форма социального взаимодействия участники которого обладают определенными правами и обязанностями и реализуют их в целях удовлетворения своих потребностей и интересов в особом порядке не запрещенном государством. Например в англосаксонской правовой системе сначала судьи разрешали отдельные казусы и лишь потом законодатель формулировал их в специальном акте в качестве нормы права. В узком смысле под правоотношением понимается разновидность...
79708. ПРАВОСОЗНАНИЕ И ПРАВОВАЯ КУЛЬТУРА. ПРАВОМЕРНОЕ ПОВЕДЕНИЕ И ПРАВОНАРУШЕНИЕ 63.5 KB
  Неправомерное поведение в теории права принято называть правонарушением. Последняя наступает тогда когда есть состав правонарушения то есть необходимые и достаточные признаки для наступления юридической ответственности. Отличие же правонарушения от аморального проступка проводится прежде всего по признаку противоправности.