Схема Бернулли

Распределение числа успехов в n испытаниях

Определение 16. Схемой Бернулли называется последовательность независимых в совокупности испытаний, в каждом из которых возможны лишь два исхода - "успех" и "неудача", при этом успех в одном испытании происходит с вероятностью $$p\in (0,\,1)$$, а неудача - с вероятностью $$q=1-p$$.

Под независимостью в совокупности испытаний понимается независимость в совокупности любых событий, относящихся к разным испытаниям. В испытаниях схемы Бернулли, когда с одним испытанием можно связать только два взаимоисключающих события, независимость в совокупности испытаний означает, что при любом $$n$$ независимы в совокупности события $$A_1=\{$$ успех в первом испытании $$\},\, \dots,\, A_{n}=\{$$ успех в $$n$$ -м испытании $$\}$$. Эти события принадлежат одному и тому же пространству элементарных исходов, полученному декартовым произведением бесконечного числа двухэлементных множеств $$\{\textit{у,\,н\/}\}$$:$$\Omega=\{(a_1,\,a_2,\,\ldots\,) {\hspace{3pt}{\left|\right.}\mspace{1mu}} a_i\in\{\textit{у,\,н\/}\}\}.$$ Здесь буквами "у" и "н" обозначены успешный и неудачный результаты испытаний соответственно.

Обозначим через $$\nu_n$$ число успехов, случившихся в $$n$$ испытаниях схемы Бернулли. Эта величина может принимать целые значения от нуля до $$n$$ в зависимости от результата $$n$$ испытаний. Например, если все $$n$$ испытаний завершились неудачей, то величина $$\nu_n$$ равна нулю.

Теорема 13 (формула Бернулли). При любом $$k=0,\,1,\,\ldots,\,n$$ имеет место равенство:$$\Prob(\nu_n=k)=C^k_n p^k q^{n-k}.$$

Доказательство. Событие $$A=\{\nu_n=k\}$$ означает, что в $$n$$ испытаниях схемы Бернулли произошло ровно $$k$$ успехов. Рассмотрим один из благоприятствующих событию $$A$$ элементарных исходов:$$(\underbrace{\textit{у,\, у,\, \ldots,\, у}}_k ,\, \underbrace{\textit{н,\,н,\, \ldots,\, н}}_{n-k}),$$ когда первые $$k$$ испытаний завершились успехом, остальные неудачей. Поскольку испытания независимы, вероятность такого элементарного исхода равна $$p^k q^{n-k}$$. Другие благоприятствующие событию $$A$$ элементарные исходы отличаются лишь расположением $$k$$ успехов на $$n$$ местах. Есть ровно $$C_n^k$$ способов расположить $$k$$ успехов на $$n$$ местах. Поэтому событие $$A$$ состоит из $$C_n^k$$ элементарных исходов, вероятность каждого из которых также равна $$p^k q^{n-k}$$.

Определение 17. Набор чисел $$\bigl\{C_n^k p^k q^{n-k},\, k=0,\,1,\,\dots,\,n\bigr\}$$ называется биномиальным распределением вероятностей.

Номер первого успешного испытания

Рассмотрим схему Бернулли с вероятностью успеха $$p$$ в одном испытании. Введем величину $$\tau$$ со значениями $$1,\,2,\,3,\,\dots$$, равную номеру первого успешного испытания.

Теорема 14. Вероятность того, что первый успех произойдет в испытании с номером $$k\in\mathbb N=\{1,2,3,\ldots\}$$, равна $$\Prob(\tau=k)=p\mspace{2mu}q^{k-1}$$.

Доказательство. Вероятность первым $$k-1$$ испытаниям завершиться неудачей, а последнему - успехом, равна$$\qquad \Prob(\tau=k)=\Prob (\textit{н,\, \dots,\, н},\,\textit{ у})=p\mspace{2mu}q^{k-1}. \qquad$$

Определение 18. Набор чисел $$\{p\mspace{2mu}q^{k-1},\, k=1,\,2,\,3,\,\dots\}$$ называется геометрическим распределением вероятностей.

Геометрическое распределение вероятностей обладает интересным свойством, которое можно назвать свойством "нестарения".

Теорема 15. Пусть $$\Prob(\tau=k)=p\mspace{2mu}q^{k-1}$$ для любого $$k\in\mathbb N$$. Тогда для любых неотрицательных целых $$n$$ и $$k$$ имеет место равенство:$$\Prob(\tau>n+k {\hspace{3pt}{\left|\right.}\mspace{1mu}} \tau>n) = \Prob(\tau>k).$$

Если, например, считать величину $$\tau$$ временем безотказной работы (измеряемым целым числом часов) некоторого устройства, то данному равенству можно придать следующее звучание: вероятность работающему устройству проработать еще сколько-то часов не зависит от того момента, когда мы начали отсчет времени, или от того, сколько уже работает устройство. Общепринятое название этого свойства - свойство отсутствия последействия.

Доказательство. По определению условной вероятности,$$\begin{equation} \Prob(\tau>n+k {\hspace{3pt}{\left|\right.}\mspace{1mu}} \tau>n)=\frac{\Prob(\tau>n+k,\, \tau>n)}{\Prob(\tau>n)}= \frac{\Prob(\tau>n+k)}{\Prob(\tau>n)}. \end{equation}$$ Последнее равенство следует из того, что событие $$\{\tau>n+k\}$$ влечет событие $$\{\tau>n\}$$, поэтому пересечение этих событий есть $$\{\tau>n+k\}$$. Найдем для целого $$m\ge 0$$ вероятность $$\Prob(\tau>m)$$:$$\Prob(\tau>m)=\sum_{i=m+1}^\infty \Prob(\tau=i)= \sum_{i=m+1}^\infty p q^{i-1}=\frac{ p q^m}{1-q}=q^m.$$ Можно получить $$\Prob(\tau>m)$$ еще проще: событие $$\{\tau>m\}$$ означает в точности, что в схеме Бернулли первые $$m$$ испытаний завершились неудачами, т.е. его вероятность равна $$q^m$$. Возвращаясь к (5.1), получим$$\Prob(\tau>n+k {\hspace{3pt}{\left|\right.}\mspace{1mu}} \tau>n)=\frac{\Prob(\tau>n+k)}{\Prob(\tau>n)}= \frac{q^{n+k}}{q^n}=q^k=\Prob(\tau>k).$$ Теорема 15 доказана.

Независимые испытания с несколькими исходами

Рассмотрим схему независимых испытаний уже не с двумя, а с большим количеством возможных результатов в каждом испытании.

Пример 36. Игральная кость подбрасывается 15 раз. Найти вероятность того, что выпадет ровно десять троек и три единицы.

Здесь каждое испытание имеет три, а не два исхода: выпадение тройки, выпадение единицы, выпадение любой другой грани. Поэтому воспользоваться формулой для числа успехов в схеме Бернулли не удаcтся.

Попробуем вывести подходящую формулу. Пусть в одном испытании возможны $$m$$ исходов: $$1,\,2,\,\dots,\,m$$, и $$i$$ -й исход в одном испытании случается с вероятностью $$p_i$$, где $$p_1+\ldots+p_m=1$$.

Обозначим через $$P(n_1,\,\dots,\,n_m)$$ вероятность того, что в $$n$$ независимых испытаниях первый исход случится $$n_1$$ раз, второй исход - $$n_2$$ раз, и т.д., наконец, $$m$$ -й исход - $$n_m$$ раз.

Теорема 16. Для любого $$n$$ и любых неотрицательных целых чисел $$n_1, \ldots, n_m$$, сумма которых равна $$n$$, верна формула$$P(n_1,\,\ldots,\,n_m)= \frac{n!}{n_1!\,\ldots\, n_m!}\, {\mathstrut p}_1^{n_1}\cdot\ldots\cdot {\mathstrut p}_m^{n_m}.$$

Доказательство. Рассмотрим один элементарный исход, благоприятствующий выпадению $$n_1$$ единиц, $$n_2$$ двоек и т.д.:$$(\underbrace{1,\,\ldots,\,1}_{n_1},\,\underbrace{2,\,\ldots,\,2}_{n_2},\, \ldots, \underbrace{m,\,\ldots,\,m}_{n_m}).$$ Это результат $$n$$ экспериментов, когда все нужные исходы появились в некотором заранее заданном порядке. Вероятность такого результата равна произведению вероятностей $${\mathstrut p}_1^{n_1}\cdot\ldots\cdot {\mathstrut p}_m^{n_m}$$. Остальные благоприятные исходы отличаются лишь расположением чисел $${1,\,2,\,\ldots,\,m}$$ на $$n$$ местах. Число таких исходов равно числу способов расположить на $$n$$ местах $$n_1$$ единиц, $$n_2$$ двоек, и т.д. Это число равно$$C_{n}^{n_1}\cdot C_{n-n_1}^{n_2}\cdot C_{n-n_1-n_2}^{n_3}\cdot\ldots \cdot C_{n-n_1-\ldots-n_{m-1}}^{n_m}= \frac{n!}{n_1!\,\ldots\,n_m!}\,.$$

Теперь мы можем вернуться к примеру 36 и выписать ответ: вероятность получить десять троек, три единицы и еще два других очка равна$$P(10,\,3,\,2)=\frac{15!}{10! 3! 2!}\cdot\left(\frac{1}{6}\right)^{\!10} \!\!\cdot\,\left(\frac{1}{6}\right)^{\!3}\!\cdot \left(\frac{4}{6}\right)^{\!2},$$ так как вероятности выпадения тройки и единицы равны по $$1/ 6$$, а вероятность третьего исхода (выпала любая другая грань) равна $$4/ 6{\text.}$$

Теорема Пуассона для схемы Бернулли

Предположим, нам нужна вероятность получить не менее семи успехов в тысяче испытаний схемы Бернулли с вероятностью успеха $$0{,}003$$. Вероятность этого события равна любому из следующих выражений, вычислить которые довольно сложно:$$\sum\limits_{k=7}^{1\,000}C_{1\,000}^k (0{,}003)^k (0{,}997)^{1\,000-k} = 1-\sum\limits_{k=0}^6 C_{1\,000}^k (0{,}003)^k (0{,}997)^{1\,000-k}.$$

Сформулируем теорему о приближенном вычислении вероятности иметь $$k$$ успехов в большом числе испытаний Бернулли с маленькой вероятностью успеха $$p$$. Термин "большое число" должен означать $$n\to\infty$$. Если при этом $$p$$ остается неизменной, то вероятность получить любое заданное число успехов уменьшается до нуля. Необходимо чтобы вероятность успеха $$p=p_n$$ уменьшалась одновременно с ростом числа испытаний. Но от испытания к испытанию вероятность успеха меняться не может (см. определение схемы Бернулли). Поэтому нам придется рассмотреть так называемую "схему серий": если испытание одно, то вероятность успеха в нем равна $$p_1$$, если испытаний два, то вероятность успеха в каждом равна $$p_2$$ и т.д. Если испытаний $$n$$, то в каждом из них вероятность успеха равна $$p_n$$. Вероятность успеха меняется не внутри одной серии испытаний, а от серии к серии, когда меняется общее число испытаний. Обозначим через $$\nu_n$$ число успехов в $$n$$ -й серии испытаний.

Теорема 17 (теорема Пуассона). Пусть $$n\to\infty$$ и $$p_n\to 0$$ так, что $$n p_n \to \lambda >0$$. Тогда для любого $$k\ge 0$$ вероятность получить $$k$$ успехов в $$n$$ испытаниях схемы Бернулли с вероятностью успеха $$p_n$$ стремится к величине $${\lambda^k} e^{-\lambda}\,/\,{k!}$$$$\Prob(\nu_n=k)=C_n^k\,p_n^k\,{(1-p_n)}^{n-k} \; \to \;\; \dfrac{\lambda^k}{k!} e^{-\lambda}. \\ \text{ при } \ n\to\infty, p_n\to 0, np_n \to \lambda>0.$$

Доказательство. Положим $$\lambda_n=n p_n$$. По условию $$\lambda_n \to\lambda>0$$. Подставим $$p_n=\lambda_n/n$$ в формулу Бернулли:$$ \qquad \displaystyle C_n^k\, p_n^k\, (1-p_n)^{n-k}=\,C_n^k \,\dfrac{\lambda_n^k}{n^k}\, \left(1-\frac{\lambda_n}{n}\right)^{n-k}=\\ =\underbrace{\dfrac{n(n\mspace{1mu}{-}\mspace{1mu}1)\ldots(n\mspace{1mu}{-}\mspace{1mu}k\mspace{1mu}{+}\mspace{1mu}1)}{n^k}}_{\begin{array}{c}\downarrow\cr 1\end{array}} \, \dfrac{\lambda_n^k}{k!} \, \underbrace{\left(1-\frac{\lambda_n}{n}\right)^n}_{\begin{array}{c}\downarrow\cr e^{-\lambda}\end{array}} \,\underbrace{\left(1-\frac{\lambda_n}{n}\right)^{-k}}_{\begin{array}{c}\downarrow\cr 1\end{array}} \longrightarrow \frac{\lambda^k}{k!}~e^{-\lambda}. \ \label{eq5-2} \vskip -2pt$$ В соотношении (5.2) мы воспользовались тем, что $$\lambda_n^k\to\lambda^k$$ и замечательным пределом $$\left(1-{\lambda_n}\mspace{1mu}/\mspace{1mu}{n}\right)^n \to e^{-\lambda}$$. Докажем последнее свойство:$$\quad\ln{\left(1-\frac{\lambda_n}{n}\right)}^n= n \ln {\left(1-\frac{\lambda_n}{n}\right)}= n \left(-\frac{\lambda_n}{n} + O\left(\frac{\lambda_n^2}{n^2}\right)\right) \to -\lambda. \quad$$

Определение 19. Набор чисел $$\Bigl\{\frac{\lambda^k}{k!} e^{-\lambda}, \ k=0,\,1,\,2,\,\dots\,\Bigr\}$$ называется распределением Пуассона с параметром $$\lambda>0$$.

По теореме 17 можно приближенно посчитать вероятность получить не менее семи успехов в тысяче испытаний схемы Бернулли с вероятностью успеха $$0{,}003$$, с вычисления которой мы начали. Поскольку $${n=1\,000}$$ "велико", а $$p_n=0{,}003$$ "мало", то, взяв $$\lambda=np_n=3$$, можно записать приближенное равенство$$\begin{equation} 1-\sum_{k=0}^6 C_{1\,000}^k (0{,}003)^k (0{,}997)^{1\,000-k} \approx 1-\sum_{k=0}^6 \frac{3^k}{k!} e^{-3} \approx 0{,}034. \ \label{eq5-3} \end{equation}$$

Осталось решить, а достаточно ли $$n=10^3$$ велико, а $$p_n=0{,}003$$ мало, чтобы заменить точную вероятность на ее приближенное значение. Для этого нужно уметь оценивать разницу между этими вероятностями.

Следующую очень полезную теорему мы, исключительно из экономии времени, доказывать не станем.

Теорема 18 (уточненная теорема Пуассона). Пусть $$A$$ - произвольное множество целых неотрицательных чисел, $$\nu_n$$ - число успехов в $$n$$ испытаниях схемы Бернулли с вероятностью успеха $$p$$, $$\lambda=np$$. Cправедливо неравенство$$\biggl|\Prob(\nu_n\in A) - \sum_{k\in A} \frac{\lambda^k}{k!} e^{-\lambda}\biggr| =\\ \biggl|\sum_{k\in A} C_n^k p^k (1-p)^{n-k} - \sum_{k\in A} \frac{\lambda^k}{k!} e^{-\lambda}\biggr| \le \min(p,\,np^2).$$

Таким образом, теорема 18 предоставляет нам возможность самим решать, достаточно ли $$n$$ велико, а $$p$$ мало, руководствуясь полученной величиной погрешности. Какова же погрешность в формуле (5.3)? Взяв $$A=\{0,\,1,\,\dots,\,6\}$$ имеем$$\begin{multiline*} \bigl |\, \Prob (\nu_{1000}\ge 7)- 0{,}034\, \bigr |= \biggl |\, \Bigl (1-\Prob (\nu_{1000}\le 6)\Bigr ) - \Bigl (1-\sum_{k=0}^6 \frac{3^k}{k!} e^{-3}\Bigr)\, \biggr| = \\ =\biggl |\, \Prob (\nu_{1000}\le 6) - \sum_{k=0}^6 \frac{3^k}{k!} e^{-3}\, \biggr | \le \min(p,\, np^2) = 0{,}003. \qquad \end{multiline*}$$

Таким образом, можно утверждать, что искомая вероятность заключена в границах $$(0,034 - 0,003, \; 0,034 + 0,003) = (0,031, \; 0,037)$$.