НОУ ИНТУИТ | Введение в теорию вероятностей. Лекция 13: Центральная предельная теорема

Учитесь и получайте официальные документы БЕСПЛАТНО. Вы можете поддержать наш проект.

Регистрация Вход

Твой путь к знаниям!

Опубликован: 07.04.2008 | Уровень: специалист | Доступ: платный | ВУЗ: Новосибирский Государственный Университет

|

Вам нравится? Нравится 73 студентам

| Поделиться |

Поддержать программу

Аннотация: Слабая сходимость распределений. Свойства слабой сходимости. Центральная предельная теорема. Теорема Муавра - Лапласа

Ключевые слова: нормальное распределение, функция, место, сходимость, произвольное, предел, доказательство, полная группа, вероятность, неравенство, закон больших чисел, Распределение Бернулли, погрешность

Как быстро среднее арифметическое сходится к математическому ожиданию?

Пусть, как в законе больших чисел Чебышева, $S_n=\xi_1+\ldots+\xi_n$ - сумма независимых и одинаково распределенных величин с конечной дисперсией. Тогда по ЗБЧ $\frac{S_n}{n}{\buildrel {\rm p} \over \longrightarrow}{\mathsf E\,}\xi_1$ с ростом . Или, после приведения к общему знаменателю,

$\frac{S_n-n\,{\mathsf E\,}\xi_1}{n}{\buildrel {\rm p} \over \longrightarrow} 0.$

Если при делении на

мы получили в пределе нуль (в смысле некоторой, все равно какой, сходимости), резонно задать себе вопрос: а не слишком ли на большую величину мы поделили? Нельзя ли поделить на что-нибудь, растущее к бесконечности медленнее, чем

, чтобы получить в пределе не нуль (но и не бесконечность)?

Можно поставить тот же вопрос иначе. Есть последовательность, стремящаяся к нулю. Можно ли ее домножить на что-либо растущее, чтобы "погасить" это стремление к нулю и получить, тем самым, что-нибудь конечное и ненулевое в пределе?

Оказывается, что уже последовательность случайных величин

$\frac{S_n-n\,{\mathsf E\,}\xi_1}{\sqrt{n}} = \sqrt{n}\cdot\frac{S_n-n\,{\mathsf E\,}\xi_1}{n}$

не сходится к нулю. Распределение членов этой последовательности становится все более похожим на нормальное распределение! Можно считать, что такая последовательность сходится к случайной величине, имеющей нормальное распределение, но сходится никак не по вероятности, а только в смысле сходимости распределений, или "слабой сходимости".

Слабая сходимость

Пусть задана последовательность случайных величин $\xi_1,\,\xi_2,\,\dots$ , задано некоторое распределение $\mathcal F$ с функцией распределения $F_\xi$ и пусть $\xi$ - произвольная случайная величина, имеющая распределение $\mathcal F$ .

Определение 46. Говорят, что последовательность случайных величин $\xi_1,\,\xi_2,\,\dots$ сходится слабо или сходится по распределению к случайной величине $\xi$ и пишут: $\xi_n\Rightarrow\xi$ , если для любого такого, что функция распределения $F_\xi$ непрерывна в точке , имеет место сходимость $F_{\xi_n}(x)\to F_\xi(x)$ при $n\to\infty$ .

Итак, слабая сходимость - это сходимость функций распределения во всех точках непрерывности предельной функции распределения.

Замечание. Заметим, что сходимость $\xi_n\Rightarrow\xi$ есть сходимость распределений, а не случайных величин: если "предельную" величину $\xi$ заменить на другую величину $\eta$ с тем же распределением, ничего не изменится: в том же смысле $\xi_n\Rightarrow\eta$ .

Следующее свойство очевидно. Если нет - нужно вернуться к определению и свойствам функций распределения.

Свойство 25. Если $\xi_n\Rightarrow\xi$ , и функция распределения $F_\xi$ непрерывна в точках и , то $\Prob(\xi_n\in(a,\,b))\to \Prob(\xi\in(a,\,b))$ . Если во всех точках и непрерывности функции распределения $F_\xi$ имеет место сходимость $\Prob(\xi_n\in(a,\,b))\to \Prob(\xi\in(a,\,b))$ , то $\xi_n\Rightarrow\xi$ .

Вместо открытого интервала $(a,\,b)$ можно взять полуоткрытый или замкнутый.

Свойство 26.

Если $\xi_n {\buildrel {\rm p} \over \longrightarrow}\xi$ , то $\xi_n\Rightarrow\xi$ .
Если $\xi_n\Rightarrow c=\text{const}$ , то $\xi_n{\buildrel {\rm p} \over \longrightarrow}c$ .

Итак, сходимость по вероятности влечет слабую сходимость. Обратное утверждение в общем случае смысла не имеет (см. замечание выше). Однако из слабой сходимости к постоянной вытекает сходимость по вероятности.

Доказательство. Первое утверждение мы докажем чуть позже.

Докажем, что слабая сходимость к постояннной влечет сходимость по вероятности. Пусть $\xi_n\Rightarrow c$ , т.е.

$F_{\xi_n}(x)\to F_c(x)=\begin{cases}0, & x\le c; \\ 1, & x>c \end{cases}$

при любом

, являющемся точкой непрерывности предельной функции F_c(x)

, т.е. при всех $x\ne c$ .

Возьмем произвольное ${\varepsilon}>0$ и докажем, что $\Prob(|\xi_n-c|<{\varepsilon})\to 1$ :

$\Prob(-{\varepsilon}<\xi_n-c<{\varepsilon})= \Prob(c-{\varepsilon}<\xi_n< c+{\varepsilon})\ge \Prob(c-{\varepsilon}/2\le\xi_n<c+{\varepsilon})= \\ =F_{\xi_n}(c+{\varepsilon})-F_{\xi_n}(c-{\varepsilon}/2) \to F_c(c+{\varepsilon})-F_c(c-{\varepsilon}/2)=1-0=1,$

поскольку в точках $c+{\varepsilon}$ и $c-{\varepsilon}/2$ функция F_c

непрерывна, и, следовательно, имеет место сходимость последовательностей $F_{\xi_n}(c+{\varepsilon})$ к $F_c(c+{\varepsilon})=1$ и $F_{\xi_n}(c-{\varepsilon}/2)$ к $F_c(c-{\varepsilon}/2)=0$ .

Осталось заметить, что $\Prob(|\xi_n-c|<{\varepsilon})$ не бывает больше , так что по свойству предела зажатой последовательности $\Prob(|\xi_n-c|<{\varepsilon})\to 1$ .

Следующее свойство приводит пример операций, которые можно применять к слабо сходящимся последовательностям - домножать их на последовательности, сходящиеся по вероятности к постоянным величинам.

Замечание Свойство "предел суммы равен сумме пределов" для слабой сходимости просто бессмысленно: сходимости $\xi_n\Rightarrow\xi$ , $\eta_n\Rightarrow\eta$ означают, что нам известны предельные распределения этих последовательностей. Но предельное распределение их суммы может быть различным в зависимости от совместного распределения $\xi_n$ и $\eta_n$ . Иное дело, когда одно из предельных распределений вырождено. Тогда предельная функция распределения суммы или произведения определена однозначно.