Лекция 12: Сходимость последовательностей случайных величин
Сходимости "почти наверное" и "по вероятности"
Напомним, что случайная величина есть (измеримая) функция из некоторого непустого множества в множество действительных чисел. Последовательность случайных величин есть тем самым последовательность функций, определенных на одном и том же множестве . Существуют разные виды сходимости последовательности функций. Давать определение любой сходимости мы будем, опираясь на сходимость числовых последовательностей, как на уже известное основное понятие.
В частности, при каждом новом мы имеем новую числовую последовательность Поэтому можно говорить о сходимости последовательности значений функций в данной точке , а также во всех остальных точках . В теории вероятностей можно не обращать внимание на неприятности, происходящие с нулевой вероятностью. Поэтому вместо сходимости "всюду" принято рассматривать сходимость "почти всюду", или "почти наверное".
Определение 42. Говорят, что последовательность сходится почти наверное к случайной величине при , и пишут: п.н., если . Иначе говоря, если при для всех , кроме, возможно, , где - событие, имеющее нулевую вероятность.
Заметим сразу: определение сходимости "почти наверное" требует знания того, как устроены отображения . В задачах же теории вероятностей, как правило, известны не сами случайные величины, а лишь их распределения.
Можем ли мы, обладая только информацией о распределениях, говорить о какой-либо сходимости последовательности случайных величин к случайной величине ?
Можно, скажем, потребовать, чтобы вероятность тех элементарных исходов , для которых не попадает в " -окрестность" числа , уменьшалась до нуля с ростом . Такая сходимость в функциональном анализе называется сходимостью "по мере", а в теории вероятностей - сходимостью "по вероятности".
Определение 42. Говорят, что последовательность случайных величин сходится по вероятности к случайной величине при , и пишут , если для любого
Пример 70. Рассмотрим последовательность , в которой все величины имеют разные распределения: величина принимает значения и с вероятностями . Докажем, что эта последовательность сходится по вероятности к нулю.
Зафиксируем произвольное . Для всех начиная с некоторого такого, что , верно равенство . Поэтому
Итак, случайные величины с ростом могут принимать все большие и большие значения, но со все меньшей и меньшей вероятностью.Например, последовательность можно задать на вероятностном пространстве так: положим для и для .
Заметим, что сходимость по вероятности имеет место совершенно независимо от того, как именно заданы случайные величины на , поскольку определяется лишь их распределениями.
Замечание Иное дело - сходимость "почти наверное". Если, скажем, задать случайные величины как указано выше, то сходимость "почти наверное" будет иметь место. Действительно, для всякого найдется такое , что , и поэтому для всех все равны нулю.
Можно попробовать задать случайные величины на отрезке как-нибудь иначе, чтобы не было сходимости почти наверное. Для этого нужно заставить отрезок длины , на котором , "бегать" по отрезку , чтобы любая точка попадала внутрь этого отрезка бесконечное число раз, и, тем самым, для любого существовала подпоследовательность .
Сходимость по вероятности не обязательно сопровождается сходимостью математических ожиданий или моментов других порядков: из не следует, что . Действительно, в примере 70 имеет место сходимость , но . При этом вообще последовательность неограниченно возрастает.
А если вместо значения взять (с той же вероятностью ), то получим . Но теперь хотя бы предел у последовательности математических ожиданий конечен.
Если же принимает значения и с вероятностями из примера 70, то , но уже вторые моменты сходиться ко второму моменту не будут: .
Однако сходимость математических ожиданий и других моментов сходящихся последовательностей бывает чрезвычайно важна в различных задачах статистики. Существуют условия, при выполнении которых сходимость по вероятности влечет сходимость математических ожиданий .
Сформулируем без доказательства следующее утверждение.