Новосибирский Государственный Университет
Опубликован: 06.11.2008 | Доступ: свободный | Студентов: 3330 / 1205 | Оценка: 4.24 / 3.67 | Длительность: 14:37:00
Специальности: Математик
Лекция 3:

Базовые идеи и методы теории вероятностей

< Лекция 2 || Лекция 3: 123 || Лекция 4 >
Аннотация: Определения. Закон больших чисел. Распределения. Производящие и характеристические функции. Цепи Маркова. Задачи.

Определения

Среднеквадратичным значением случайной величины \xi называется математическое ожидание M\xi^2:

M\xi^2=\sum\limits_{-\infty}^{\infty}x^2P_{\xi}(x)

для дискретных величин,

M\xi^2=\int\limits_{-\infty}^{\infty}x^2p_{\xi}(x)dx

для непрерывно распределенных величин. Имеет место следующее неравенство Чебышева: каково бы ни было \varepsilon >0,

P\{|\xi|>\varepsilon\}\le M\xi^2 \frac{1}{\varepsilon^2} ( 3.1)
.

Неравенство Чебышева показывает, что если среднеквадратичное значение M\xi^2 мало по сравнению с \varepsilon^2: M\xi^2 / \varepsilon^2 \le \delta и практически можно пренебречь возможностью осуществления события \{|\xi|>\varepsilon\} малой вероятности (\le\delta), то будет малой и сама случайная величина \xi:|\xi|\le\varepsilon. В частности, если M\xi^2=0, то с вероятностью 1 и \xi=0.

Дисперсией случайной величины \xi, обозначаемой D\xi, называется среднеквадратичное значение M(\xi-a)^2 разности \xi-a, где a=M\xi — математическое ожидание случайной величины \xi. Имеет место следующая формула:

D\xi=M\xi^2-a^2 ( 3.2)
.

В самом деле,

M(\xi-a)^2=M\xi^2-2aM\xi+a^2=M\xi^2-a^2.

Очевидно,

D1=0 ( 3.3)
,

и для любой постоянной c

D(c\xi)=c^2D\xi ( 3.4)
.

Пусть \xi_1 и \xi_2 — независимые случайные величины. Тогда дисперсия их суммы может быть найдена по формуле

D(\xi_1+\xi_2)=D\xi_1+D\xi_2 ( 3.5)
.

Пусть \xi_1,\xi_2 — случайные величины, a_1,a_2 — их математическое ожидание, а \sigma_1^2 и \sigma_2^2 — их дисперсии, тогда

r=\frac{M(\xi_1-a_1)(\xi_2-a_2)}{\sigma_1\sigma_2} ( 3.6)

называется коэффициентом корреляции этих \xi_1, \xi_2 случайных величин.

Коэффициент корреляции является простейшей характеристикой связи случайных величин. Если случайные величины независимы, то их коэффициент корреляции равен нулю. Коэффициент корреляции всегда лежит в пределах

-1\le r\le1

причем, если r=-1 или r=1, то случайная величина \xi_1 есть просто линейная комбинация вида

\xi_1=c_1+c_2\xi_2,

где c_1, c_2 — некоторые постоянные.

Закон больших чисел

Рассмотрим независимые случайные величины \xi_1,...,\xi_n имеющие одинаковое распределение вероятностей (и, в частности, одинаковые математические ожидания a=M\xi_k и дисперсии \sigma^2=D\xi_k; k=1,...,n). Рассмотрим среднее арифметическое значение этих величин

\eta=\frac{1}{n}(\xi_1+...+\xi_n)

Имеем

M\eta=\frac{1}{n}\sum\limits_{k=1}^n M\xi_k=a, D\eta=\frac{1}{n^2}\sum\limits_{k=1}^{n}D\xi_k=\frac{\sigma^2}{n}.

Используя неравенство Чебышева, получим

P\{|\eta-a|>\varepsilon\}\le M(\eta-a)^2 \frac{1}{\varepsilon^2}= \frac{\sigma^2}{\varepsilon^2} \frac{1}{n}.

Очевидно, что, каково бы ни было \delta>0? при достаточно большом n(n>\frac{\sigma^2}{\varepsilon^2} \frac{1}{\delta}) среднее арифметическое \frac{1}{n} (\xi_1+...+\xi_n) величин \xi_1+...+\xi_n с вероятностью, не меньшей 1-\delta, будет содержаться в пределах

a-\varepsilon\le\frac{1}{n}(\xi_1+...+\xi_n)\le a+\varepsilon ( 3.7)
,

где \varepsilon >0 может быть заранее выбрано сколь угодно малым.

Этот факт носит название закона больших чисел. Если \varepsilon и \delta столь малы, что можно практически пренебречь возможностью наступления события вероятности \delta и различием величин, отличающихся друг от друга не более чем на \varepsilon, то практически можно считать, что, несмотря на случайность, среднее арифметическое \frac{1}{n}(\xi_1+...+\xi_n) практически совпадает с математическим ожиданием (средним значением) a=M\xi_k.

Распределение

Одинаковые, не зависимые между собой испытания, в каждом из которых рассматривается некоторое событие A, наступающее с положительной вероятностью p=P(A), называются испытаниями Бернулли. Само событие A условно называется "успехом", а дополнительное событие \bar A, наступающее в каждом из рассматриваемых испытаний с вероятностью q=1-p, условно называют "неудачей".

Если рассматривается n испытаний, то каждый элементарный исход \omega может быть описан, например, последовательностью длины n из 1 и 0 вида 10110001…, где стоящая на i-м месте 1 означает "успех" при i-м испытании, а 0 означает "неудачу". Вероятность P(\varpi) элементарного исхода \omega, при котором ровно k раз наступает "успех" и n-k раз наступает "неудача", в силу независимости отдельных испытаний есть

P(\omega)=p^kq^{n-k}.

Видно, что элементарные исходы \omega не являются равновероятными, когда p\ne q.

Рассмотрим случайную величину \xi, равную общему числу "успехов" в испытаниях Бернулли: \xi(\omega)=k, если при элементарном исходе \omega равно k раз наступает "успех". Различных исходов \omega, приводящих к одному и тому же числу k "успехов", столько же, сколько можно образовать различных комбинаций из k единиц и n-k нулей. Число таких комбинаций равно числу сочетаний из n по k, что составляет C_n^k=\frac{n!}{k!(n-k)!}. Все эти исходы \omega имеют одну и ту же вероятность P(\omega)=p^kq^{n-k}. Таким образом, распределение вероятностей случайной величины \xi задается формулой

P_{\xi}(k)=C_n^kp^kq^{n-k},k=0,...,n ( 3.8)
.

Это – так называемое биномиальное распределение. Оно задается двумя параметрами: вероятностью отдельного "успеха"p и числом испытаний n. Случайная величина \xi есть сумма n независимых величин \xi_1,...,\xi_n определяемых следующим образом: \xi_k=1, если в k -м испытании наступает "успех", и \xi_k=0, если наступает "неудача": \xi=\xi_1+...+\xi_n.

Имеем

M\xi_k=p, D\xi_k=M\xi_k^2-(M\xi_k)^2=p-p^2=p(1-p)=pq,

откуда для математического ожидания и дисперсии случайной величины \xi получаем следующие выражения:

M\xi=np; D\xi=npq ( 3.9)
.

При большом числе испытаний n и сравнительно малой вероятности p, когда каждый из "успехов" является сравнительно редким событием, но среднее число "успехов" np довольно значительно, приблизительно можно считать, что

P_{\xi}(k)\approx \frac{a^k}{k!}e^{-a},k=0,1,... ( 3.10)
,

где a=np есть среднее число "успехов", а e=2.72... — основание натуральных логарифмов.

Говорят, что случайная величина \xi (принимающая лишь целочисленные значения 0, 1, …) имеет пуассоновское распределение вероятностей (распределена по закону Пуассона), если

P_{\xi}(k)= \frac{a^k}{k!}e^{-a},k=0,1,.. ( 3.11)
.

Это распределение задается одним-единственным неотрицательным параметром a, совпадающим со средним значением M\xi:

a=M\xi=\sum\limits_{0}^{\infty}kP_{\xi}(k) ( 3.12)
.

Действительно, воспользовавшись разложением e^x= \sum\limits_{k=0}^{\infty}\frac{x^k}{k!}, справедливым при всех x, имеем M\xi=\sum\limits_{0}^{\infty}kP_{\xi}(k)=\sum\limits_{0}^{\infty}k\frac{a^k}{k!}e^{-a}=e^{-a}\sum\limits_{1}^{\infty}\frac{a^{k-1}}{(k-1)}=a.

Приближенная формула 3.10. показывает, что при больших n и малых p случайная величина \xi, равна числу "успехов" в n испытаниях Бернулли (с вероятностью успеха p ), приблизительно распределена по закону Пуассона с параметром a=np.

Было отмечено, что случайная величина \xi, равная числу "успехов" в n испытаниях Бернулли, совпадает с суммой n независимых величин \xi_1,...,\xi_n. Введем новое обозначение, положив

S_n=\sum\limits_{k-1}^{n}\xi_k.

Пусть

S_n^*=\frac{S_n-MS_n}{\sqrt{DS_n}} ( 3.13)
,

где MS_n=np и DS_n=npq. Имеет место следующее предельное соотношение, называемое предельной теоремой Муавра-Лапласа

\lim\limits_{n\to \infty}P\{x_1\le S_n^*\le x_2\}=\frac{1}{2\pi}\int\limits_{x_1}^{x_2}e^{-x^2/2}dx.

Фигурирующее здесь непрерывное распределение вероятностей с плотностью

p(x)=\frac{1}{\sqrt{2\pi}}e^{-x^2/2}

называется нормальным, или гауссовским, распределением. Как функция от x, плотность этого распределения вероятностей имеет график весьма специфической колоколообразной формы. Имеются таблицы функций нормального распределения –так называемой функции Лапласа.


Рис. 3.1.

На практике очень многие случайные величины распределены нормально или почти нормально. Например, ошибки всевозможных измерений, представляющие собой сумму многих "элементарных", практически независимых, ошибок, вызванных отдельными причинами. По тому же закону распределяются, как правило, ошибки стрельбы, наведения, совмещения. Отклонения напряжения в сети от номинала также вызваны суммарным действием многих независимых причин, результаты действия которых складываются. Нормальному (или близкому) закону подчиняются такие случайные величины, как суммарная выплата страхового общества за большой период и тому подобное.

< Лекция 2 || Лекция 3: 123 || Лекция 4 >
Данил Комардин
Данил Комардин

мне задали дистанционное задание на сертификат,но я не могу его найти