Опубликован: 06.11.2008 | Уровень: специалист | Доступ: платный | ВУЗ: Новосибирский Государственный Университет
Лекция 3:

Базовые идеи и методы теории вероятностей

< Лекция 2 || Лекция 3: 123 || Лекция 4 >

Производящие функции

Пусть \xi — целочисленная случайная величина, принимающая в зависимости от случайного исхода \omega одно из значений 0, 1, 2, … с соответствующими вероятностями

P_{\xi}(k)=P\{\xi=k\},k=0,1,...

Функция F_{\xi}(z) переменной z,|z|\le 1, вида

F_{\xi}(z)=\sum\limits_{k=0}^{\infty}P_{\xi}(k)z^k ( 3.13)
(3.13.)

называется производящей функцией случайной величины \xi или соответствующего распределения вероятностей P_{\xi}(k),k=0,1,...

F_{\xi}(z) является аналитической функцией от z и (3.13.) дает ее разложение в степенной ряд. Ясно, что распределение вероятностей случайной величины \xi однозначно определяется ее производящей функцией F_{\xi}(z) ; в частности, по формуле Тейлора

P_{\xi}(k)=\frac{1}{k!}F_{\xi}^k (0),k=0,1,...

Производящая функция F_{\xi}(z) при фиксированном z представляет собой не что иное, как математическое ожидание случайной величины \varphi (\xi)=z^{\xi}:

Z_{\xi}(z)=Mz^{\xi},|z|\le 1.

Цепи Маркова

Условно будем говорить о некоторой физической системе, шаг за шагом меняющей свое фазовое состояние. Будем считать, что имеется лишь конечное или счетное число различных фазовых состояний \varepsilon_1,\varepsilon_2,.... Обозначим \xi (n) состояние системы через n шагов. Будем предполагать, что цепочка последовательных переходов

\xi (0)\to\xi (1)\to...

Зависит от вмешательства случая, причем соблюдается следующая закономерность: если на каком-либо шаге n система находится в состоянии \varepsilon_i, то, независимо от предшествующих обстоятельств, она на следующем шаге с вероятностью p_{ij} переходит в состояние \xi_j.

p_{ij}=P\{\xi (n+1) = \varepsilon_j / \xi (n)=\varepsilon_i\},i,j=1,2,.. ( 3.14)
.

Описанная выше модель называется однородной цепью Маркова , а вероятности p_{ij} называются переходными вероятностями этой цепи. Кроме них, еще задается начальное распределение вероятностей

p_i^0=P\{\xi(0)=\varepsilon_i\},i=1,2,.. ( 3.15)
.

Какова вероятность того, что система через n шагов будет находиться в состоянии \varepsilon_j?

Обозначим эту вероятность p_j(n):

p_j(n)=P\{\xi (n) = \varepsilon_j\} ( 3.16)
.

Через n-1 шагов система обязательно будет находиться в одном из состояний \varepsilon_k k=1,2,..., причем в \varepsilon_k она будет с вероятностью, обозначенной p_k(n-1). При условии, что через (n-1) шагов система будет находиться в состоянии \varepsilon_k, вероятность оказаться через n шагов в состоянии \varepsilon_j равна вероятности p_{kj} перехода из \varepsilon_k в \varepsilon_j. Используя формулу полной вероятности, получим, что

P\{\xi (n) = \varepsilon_j \}=\sum\limits_k  P\{\xi (n)=\varepsilon_j / \xi (n-1)=\varepsilon_k\}P\{\xi (n-1) =\varepsilon_k\} ( 3.17)
.

Это дает следующие рекуррентные соотношения для вероятностей p_j(n),j=1,2,...

p_j(0)=p_j^0,p_j(n)=\sum\limits_k p_k(n-1) p_{kj}(n=1,2,...) ( 3.18)
.

Если в начальный момент система находится в определенном состоянии \varepsilon_i, то начальное распределение вероятностей таково, что p_i^0=1,p_k^0=0 для k\ne i, а вероятность p_j(n) совпадает с вероятностью p_{ij}(n) того, что система из состояния \varepsilon_i за n шагов перейдет в состояние \varepsilon_j.

p_{ij}(n)=P\{\xi (n) =\varepsilon_j / \xi (0) = \varepsilon_i\},i,j=1,2,.. ( 3.19)
.

При начальном распределении вида p_i^0=1,p_k^0=0 для k\ne i формула 3.18. дает следующие соотношения между переходными вероятностями p_{ij}(n);i,j=1,2,...:

p_{ij}(0)=\left\langle 
\begin{array}{ccc}
1,j=i;\\
p_{ij}(n)=\sum\limits_k p_{ik}(n-1)p_{kj}(n=1,2,...).\\
0,j\ne i							  
\end{array}
 \right ( 3.20)
.

Удобно ввести матрицу P(n)= \{p_{ij} (n)\}. Согласно формуле 3.20.

P(0)=I,P(1)=P,P(2)=P(1)\text{ }P=P^2,...,,

где I — единичная матрица, P= \{p_{ij}\}матрица переходных вероятностей. Видно, что имеет место следующее равенство:

P(n)=P^n(n=1,2,...) ( 3.21)

Случайные блуждания. Рассмотрим случайное блуждание, связанное с неограниченными испытаниями Бернулли, когда частица блуждает по целочисленным точкам действительной прямой таким образом, что, находясь в точке i, она с вероятностью p переходит на следующем шаге в соседнюю точку i+1, а с вероятностью q=1-p — в соседнюю точку i-1. Если обозначить \xi (n) положение частицы после n шагов, то последовательность \xi (0)\to\xi (1)\to\xi (2)... будет цепью Маркова с переходными вероятностями вида

p_{ij}=\left\langle 
\begin{array}{ccc}
p\text{ при }j=i+1,\\
q\text{ при }j=i-1,\\
0\text{ при }j\ne i-1,i+1					  
\end{array}
 \right.

Рассмотрим случайное блуждание другого типа. Частица блуждает лишь по целым неотрицательным точкам, причем из точки i она с вероятностью p_i переходит на следующем шаге в соседнюю точку i+1, а с вероятностью q_i=1-p_i возвращается в нулевое положение. Соответствующие переходные вероятности суть

p_{ij}=\left\langle 
\begin{array}{ccc}
p_i\text{ при }j=i+1,\\
q_i\text{ при }j=0,\\
0\text{ при }j\ne 0,i+1					  
\end{array}
 \right.

Рассмотрим цепь Маркова с состояниями \varepsilon_1,\varepsilon_2,... и переходными вероятностями p_{ij},i,j=1,2,... Пусть в начальный момент система находится в состоянии \varepsilon_i. Временно положим u_n=p_{ij}(n) и обозначим \nu_n вероятность того, что через n шагов система впервые вернется в исходное состояние \varepsilon_i. Имеет место следующее равенство:

u_n=u_0\nu_n+u_1\nu_{n-1}+...+n_{n-1}\nu_1+u_n\nu_0,n=1,... ( 3.22)
,

где дополнительно введены u_1=1 и \nu_0=0.

Оно является следствием общей формулы полной вероятности. Именно, если ввести события B_k — "система через k шагов впервые возвращается в исходное состояние \varepsilon_i", где k=1,...,n, и событие B_{n+1} — "система ни разу не побывает в состоянии \varepsilon_i в течение первых n шагов", то B_1,...,B_{n+1} будет полной системой событий, и вероятность события A — "система через n шагов будет находиться в исходном состоянии \varepsilon_i"по формуле полной вероятности есть

P(A)=\sum\limits_{i-1}^{n+1}P(A/B_k)P(B_k),

где

P(B_k)=\nu_k;P(A|B_k)=u_{n-k},k=1,...,n; P(A|B_{n+1})=0.

Если обратиться к производящим функциям

U(z)=\sum\limits_{k-0}^{\infty}u_kz^k,V(z)=\sum\limits_{k-0}^{\infty}\nu_kz^k,|z|\le 1

то отношение 3.22. , справедливое при всех n=1,2,..., можно написать в виде

U(z)-u_0=U(z)V(z),u_0=1

откуда

U(z)=\frac{1}{1-V(z)} ( 3.23)
. (3.23.)

Значение

\nu=\sum\limits_{k-0}^{\infty}\nu_k ( 3.24)
(3.24.)

есть вероятность того, что система рано или поздно попадает в исходное состояние \varepsilon_i, иначе \nu есть вероятность возвращения в \varepsilon_i. Состояние \varepsilon_i называется возвратным, если вероятность возвращения в него равна 1 , и невозвратным, если вероятность эта меньше 1.

< Лекция 2 || Лекция 3: 123 || Лекция 4 >
Данил Комардин
Данил Комардин

мне задали дистанционное задание на сертификат,но я не могу его найти

Юрий Шкурат
Юрий Шкурат
Россия, Таганрог, Таганрогский Радиотех, 2010
Аллите Скуркайте
Аллите Скуркайте
Россия, Чебоксары