Мы знаем, что для независимых случайных величин с конечными вторыми моментами дисперсия их суммы равна сумме их дисперсий. В общем случае дисперсия суммы равна$$\begin{equation} {\mathsf D\,}(\xi+\eta) ={\mathsf D\,}\xi+{\mathsf D\,}\eta + 2\bigl({\mathsf E\,}(\xi\eta)-{\mathsf E\,}\xi\,{\mathsf E\,}\eta\,\bigr). \end{equation}$$
Величина $${\mathsf E\,}(\xi\eta)-{\mathsf E\,}\xi\,{\mathsf E\,}\eta$$ равняется нулю, если случайные величины $$\xi$$ и $$\eta$$ независимы (свойство (E7) математического ожидания). С другой стороны, из равенства ее нулю вовсе не следует независимость, как показывают примеры 50 и 51. Эту величину используют как "индикатор наличия зависимости" между двумя случайными величинами.
Определение 39. Ковариацией $${{\rm cov}}(\xi,\,\eta)$$ случайных величин $$\xi$$ и $$\eta$$ называется число $${{\rm cov}}(\xi,\,\eta)={\mathsf E\,}\bigl((\xi-{\mathsf E\,}\xi)(\eta-{\mathsf E\,}\eta)\bigr)$$.
Свойство 18. Справедливы равенства: $${{\rm cov}}(\xi,\,\eta)={\mathsf E\,}(\xi\eta)-{\mathsf E\,}\xi\,{\mathsf E\,}\eta;$$ $${{\rm cov}}(\xi,\,\xi)={\mathsf D\,}\xi;$$ $${{\rm cov}}(\xi,\,\eta)={{\rm cov}}(\eta,\,\xi);$$ $${{\rm cov}}(c\cdot\xi,\,\eta)=c\cdot{{\rm cov}}(\xi,\,\eta)\vphantom{\int_{b_b}}$$.
Непосредственным возведением суммы в квадрат проверяется следующее свойство.
Свойство 19. Дисперсия суммы нескольких случайных величин вычисляется по любой из следующих формул:$${\mathsf D\,}(\xi_1+\ldots+\xi_n) = \sum\limits_{i=1}^n{\mathsf D\,}\xi_i + \sum\limits_{i\ne j}{{\rm cov}}(\xi_i,\xi_j) = \\ =\sum\limits_{i=1}^n{\mathsf D\,}\xi_i + 2\sum\limits_{i < j}{{\rm cov}}(\xi_i,\xi_j) = \sum\limits_{i,j}{{\rm cov}}(\xi_i,\xi_j).$$
Обсудим достоинства и недостатки ковариации, как величины, характеризующей зависимость двух случайных величин.
Если ковариация $${{\rm cov}}(\xi,\,\eta)$$ отлична от нуля, то величины $$\xi$$ и $$\eta$$ зависимы. Чтобы судить о наличии зависимости согласно любому из определений независимости, требуется знать совместное распределение пары $$\xi$$ и $$\eta$$. Но найти совместное распределение часто бывает сложнее, чем посчитать математическое ожидание произведения $$\xi$$ и $$\eta$$. Если нам повезет, и математическое ожидание $$\xi\eta$$ не будет равняться произведению их математических ожиданий, мы установим зависимость $$\xi$$ и $$\eta$$ не находя их совместного распределения. Это очень хорошо.
Пример 65. Покажем, что с помощью ковариации можно судить о зависимости даже тогда, когда для вычисления совместного распределения недостаточно данных. Пусть $$\xi$$ и $$\eta$$ - независимые случайные величины и дисперсия $$\xi$$ отлична от нуля. Покажем, что $$\xi$$ и $$\xi+\eta$$ зависимы:$${\mathsf E\,}\bigl(\xi(\xi+\eta)\bigr)={\mathsf E\,}\xi^2+{\mathsf E\,}\xi\,{\mathsf E\,}\eta, \qquad {\mathsf E\,}\xi\,{\mathsf E\,}(\xi+\eta)={({\mathsf E\,}\xi)}^2+ {\mathsf E\,}\xi\,{\mathsf E\,}\eta.$$ Вычитая одно из другого, получим $${{\rm cov}}(\xi,\xi+\eta)={\mathsf D\,}\xi>0$$. Следовательно, $$\xi$$ и $$\xi+\eta$$ зависимы.
Упражнение. Доказать, что $$\xi$$ и $$\xi+\eta$$ независимы, если $${\mathsf D\,}\xi=0$$.
Величина $${{\rm cov}}(\xi,\,\eta)$$ не является "безразмерной": если $$\xi$$ - объем газа в сосуде, а $$\eta$$ - давление этого газа, то ковариация измеряется в $${\textrm{м}^3{\times}\,\textrm{Па}}$$. Иначе говоря, при умножении $$\xi$$ или $$\eta$$ на 100 ковариация тоже увеличится в 100 раз. Но от умножения на 100 величины не стали "более зависимыми", так что большое значение ковариации не означает более сильной зависимости. Это очень плохо.
Нужно как-то нормировать ковариацию, получив из нее "безразмерную" величину, абсолютное значение которой:
Замечание Говоря о "силе" зависимости между случайными величинами, мы имеем в виду следующее. Самая сильная зависимость - функциональная, а из функциональных - линейная зависимость, когда $$\xi=a\eta+b$$ п.н. Бывают гораздо более слабые зависимости. Так, если по последовательности независимых случайных величин $$\xi_1,\,\xi_2,\,\dots$$ построить величины $$\xi=\xi_1+\ldots+\xi_{24}+\xi_{25}$$ и $$\eta=\xi_{25}+\xi_{26}+\ldots+\xi_{90}$$, то эти величины зависимы, но очень "слабо": через единственное общее слагаемое $$\xi_{25}$$. Сильно ли зависимы число гербов в первых $$25$$ подбрасываниях монеты и число гербов в испытаниях с $$25$$ -го по $$90$$ -е?
Итак, следующая величина есть всего лишь ковариация, нормированная нужным образом.
Определение 40. Коэффициентом корреляции $$\rho(\xi,\eta)$$ случайных величин $$\xi$$ и $$\eta$$, дисперсии которых существуют и отличны от нуля, называется число$$\rho(\xi,\eta)=\frac{{{\rm cov}}(\xi,\,\eta)}{\sqrt{\vphantom{a^2}{\mathsf D\,}\xi}\sqrt{\vphantom{a^2}{\mathsf D\,}\eta}}.$$
Замечание Чтобы разглядеть "устройство" коэффициента корреляции, распишем по определению числитель и знаменатель:$$\rho(\xi,\eta)= \frac{{\mathsf E\,}\bigl((\xi-{\mathsf E\,}\xi)(\eta-{\mathsf E\,}\eta)\bigr)} {\sqrt{\vphantom{a^2}{\mathsf E\,}\bigl(\xi-{\mathsf E\,}\xi\bigr)^2} \sqrt{\vphantom{a^2}{\mathsf E\,}\bigl(\eta-{\mathsf E\,}\eta\bigr)^2}}.$$ Перед нами - "косинус угла" между двумя элементами $$\xi-{\mathsf E\,}\xi$$ и $$\eta-{\mathsf E\,}\eta$$ гильбертова пространства, образованного случайными величинами с нулевым математическим ожиданием и конечным вторым моментом, снабженного скалярным произведением $${{\rm cov}}(\xi,\,\eta)$$ и "нормой", равной корню из дисперсии, или корню из скалярного произведения $${{\rm cov}}(\xi,\xi)$$.
Пример 66. Рассмотрим продолжение примера 65, но пусть $$\xi$$ и $$\eta$$ будут не только независимыми, но и одинаково распределенными случайными величинами, и их дисперсия отлична от нуля. Найдем коэффициент корреляции величин $$\xi$$ и $$\xi+\eta$$:$$\rho(\xi,\xi+\eta)= \frac{{{\rm cov}}(\xi,\xi+\eta)}{\sqrt{\vphantom{a^2}{\mathsf D\,}\xi}\sqrt{\vphantom{a^2}{\mathsf D\,}(\xi+\eta)}}= \frac{{\mathsf D\,}\xi}{\sqrt{\vphantom{a^2}{\mathsf D\,}\xi}\sqrt{\vphantom{a^2}{\mathsf D\,}\xi+{\mathsf D\,}\eta}} =\frac{{\mathsf D\,}\xi}{\sqrt{\vphantom{a^2}{\mathsf D\,}\xi}\sqrt{\vphantom{a^2}2{\mathsf D\,}\xi}}= \frac{1}{\sqrt{2}}.$$ Коэффициент корреляции величин $$\xi$$ и $$\xi+\eta$$ равен косинусу угла $$45^\circ$$, образованного "векторами" $$\xi$$ и $$\xi+\eta$$, когда $$\xi$$ и $$\eta$$ "ортогональны" и их "длина" одинакова.
Теорема 33. Коэффициент корреляции обладает свойствами:
Доказательство. Свойство (1) мы уже много раз ( сколько?) упоминали и один раз доказали. Более того, при рассмотрении свойств математического ожидания мы привели примеры 50 и 51 - два из многих возможных примеров того, что свойство (1) в обратную сторону неверно.
Докажем свойство (2). Рассмотрим преобразование $$\widehat \xi=\frac{\xi-{\mathsf E\,}\xi}{\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}}$$ случайной величины, называемое стандартизацией. Случайная величина $$\smash[t]{\widehat\xi}\vphantom{\int_c}$$ имеет нулевое математическое ожидание и единичную дисперсию:$${\mathsf E\,}\widehat\xi={\mathsf E\,}\frac{\xi-{\mathsf E\,}\xi}{\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}}= \frac{{\mathsf E\,}\xi-{\mathsf E\,}\xi}{\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}}=0; \quad {\mathsf E\,}\widehat{\xi}^{\,2}={\mathsf D\,}\widehat\xi= {\mathsf D\,}\frac{\xi-{\mathsf E\,}\xi}{\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}}= \frac{{\mathsf D\,}(\xi-{\mathsf E\,}\xi)}{{\mathsf D\,}\xi}=1$$$ Коэффициент корреляции теперь запишется проще: $$\rho(\xi,\,\eta)={\mathsf E\,}\bigl(\,\widehat\xi\cdot\widehat\eta\,\bigr)$$. .
Далее, неравенство $$(x\pm\mspace{1mu}y)^2\geq 0$$ равносильно неравенству$$-\frac12(x^2+y^2)\leq xy\leq \frac12(x^2+y^2).$$ Подставив в него $$\widehat{\xi}$$ вместо $$x$$, $$\widehat{\eta}$$ вместо $$y$$ и взяв математические ожидания всех частей неравенства, получим свойство (2):$$\begin{equation}\label{eq-cov1} -1=-\frac12 {\mathsf E\,}\bigl(\widehat\xi^{\,2}+\widehat\eta^{\,2}\bigr) \leq \rho(\xi,\,\eta)= {\mathsf E\,}\bigl(\,\widehat\xi\cdot\widehat\eta\,\bigr) \leq \frac12 {\mathsf E\,}\bigl(\widehat\xi^{\,2}+\widehat\eta^{\,2}\bigr)=1. \end{equation}$$
Докажем свойство (3). В одну сторону утверждение проверяется непосредственно: если $$\eta=a\xi+b$$, то$$\rho(\xi,\, a\xi+b)= \frac{{\mathsf E\,}(\xi(a\xi+b))-{\mathsf E\,}\xi\cdot{\mathsf E\,}(a\xi+b)} {\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}\sqrt{\smash[b]{\mathstrut{\mathsf D\,}(a\xi+b)}}}= \frac{a{\mathsf D\,}\xi} {\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}\sqrt{a^2{\mathsf D\,}\smash[b]{\xi\mathstrut}}}= \begin{cases} \phantom-1, a>0,\\ -1, a<0. \end{cases}$$
Докажем вторую часть свойства (3): если $$|\rho(\xi,\,\eta)|=1$$, то существуют числа $$a\ne 0$$ и $$b$$ такие, что $$\Prob(\eta=a\xi+b)=1$$.
Рассмотрим сначала случай $$\rho(\xi,\,\eta)=\rho\bigl(\widehat\xi,\,\widehat\eta\bigr)=1$$. Тогда второе неравенство в формуле (19) превращается в равенство:$${\mathsf E\,}\bigl(\widehat\xi\cdot\widehat\eta\bigr)= \frac12 {\mathsf E\,}\bigl(\widehat\xi^{\,2}+\widehat\eta^{\,2}\bigr), \quad\text{т.е.}\quad {\mathsf E\,}\bigl(\widehat\xi-\widehat\eta\bigr)^2=0.$$ Если математическое ожидание неотрицательной случайной величины $$\smash{\bigl(\widehat\xi-\widehat\eta\bigr)^2}$$ равно нулю, то $$\bigl(\widehat\xi-\widehat\eta\bigr)^2=0$$, п.н. Поэтому с единичной вероятностью$$\frac{\eta-{\mathsf E\,}\eta}{\sqrt{\mathstrut{\mathsf D\,}\eta}}= \frac{\xi-{\mathsf E\,}\xi}{\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}}, \qquad \eta=\frac{\sqrt{\mathstrut{\mathsf D\,}\eta}}{\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}}\,\xi+{\mathsf E\,}\eta -\frac{\sqrt{\mathstrut{\mathsf D\,}\eta}}{\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}}\,{\mathsf E\,}\xi=a\xi+b.$$ В случае $$\rho(\xi,\,\eta)=-1$$ нужно рассмотреть первое неравенство в формуле (19) и повторить рассуждения. Тем самым теорема 33 доказана.
Полезно знать следующие часто употребляемые термины.
Определение 41. Говорят, что $$\xi$$ и $$\eta$$ отрицательно коррелированы если $$\rho(\xi,\,\eta)<0;$$ положительно коррелированы, если $$\rho(\xi,\,\eta)>0;$$ некоррелированы, если $$\rho(\xi,\,\eta)=0$$.
Смысл знака $$\rho(\xi,\,\eta)$$ хорошо виден в случае $$\rho(\xi,\,\eta)=\pm 1$$. Тогда знак $$\rho$$ равен знаку $$a$$ в равенстве $$\eta=a\xi+b$$ п.н. Так, $$\rho(\xi,\,\eta)=1$$ означает, что чем больше $$\xi$$, тем больше и $$\eta$$. Напротив, $$\rho(\xi,\,\eta)=-1$$ означает, что чем больше $$\xi$$, тем меньше $$\eta$$. Похожим образом можно трактовать знак коэффициента корреляции и в случае, когда $$|\rho(\xi,\,\eta)|< 1$$, помня при этом, что зависимость между $$\xi$$ и $$\eta$$ теперь уже не линейная и, возможно, даже не функциональная.
Так, величины $$\xi$$ и $$\xi+\eta$$ в примерах 65 и 66 положительно коррелированы, но их зависимость не функциональная.
Следующее свойство показывает, что модуль коэффициента корреляции не меняется при линейных преобразованиях случайных величин.
Свойство 20. Для любых случайных величин $$\xi$$ и $$\eta$$ с конечной и ненулевой дисперсией при любых постоянных $$a\ne 0$$ и $$b$$ имеет место равенство$$\rho(a\xi+b,\,\eta)=\textup{sgn}\mspace{1mu}(a)\cdot \rho(\xi,\,\eta),$$ где $$\textup{sgn}\mspace{1mu}(a)=\frac{a}{|a|}$$ - знак $$a$$.
Доказательство. Запишем $$\rho(a\xi+b,\,\eta)$$, не забывая про свойства дисперсии:$$\qquad\rho(a\xi+b,\,\eta)=\frac{{{\rm cov}}(a\xi+b,\,\eta)}{\sqrt{\vphantom{a^2}{\mathsf D\,}(a\xi+b)}\,\sqrt{\vphantom{a^2}{\mathsf D\,}\eta}}= \frac{a\,{{\rm cov}}(\xi,\,\eta)}{\sqrt{a^2{\mathsf D\,}\xi}\,\sqrt{\vphantom{a^2}{\mathsf D\,}\eta}}= \frac{a}{|a|}\cdot \rho(\xi,\,\eta).\qquad$$
Примеры
Пример 67. Если $$\xi$$ и $$\eta$$ суть координаты точки, брошенной наудачу в треугольник $$D$$ с вершинами $$(2,0)$$, $$(0,0)$$ и $$(0,1)$$, то их коэффициент корреляции $$\rho(\xi,\,\eta)$$ отрицателен. Это можно объяснить так: чем больше $$\xi$$, тем меньше у $$\eta$$ возможностей быть большой.
Полезно убедиться в этом, проверив справедливость следующих высказываний. Во-первых,$$f_\xi(x)=\begin{cases} 1-\frac{x}{2}, 0\le x\le 2, \\ 0, \text{ иначе}; \end{cases} \quad f_\eta(y)=\begin{cases} 2-2y, 0\le y\le 1, \\ 0, \text{ иначе } \end{cases}$$ и вычисленные по этим плотностям средние ( вычислить ) равны соответственно $${\mathsf E\,}\xi=2/3$$ и $${\mathsf E\,}\eta=1/3$$.
Во-вторых, по определению многомерного равномерного распределения в области $$D$$,$${\mathsf E\,}(\xi\,\eta)=\mathop{\int\int}\limits_{\!\!D} x\cdot y \cdot 1\,\,dx\,dy= \int\limits_0^2\;\smash{\int\limits_{0}^{\,1{-}x/2}} x\,y \;dy\,\;dx=\frac16.$$ Ковариация (а с ней и коэффициент корреляции) отрицательна.
Пример 68. Найдем коэффициент корреляции между числом выпадений единицы и числом выпадений шестерки при $$n$$ подбрасываниях правильной игральной кости.
Обозначим для $$i\in\{1,\,\dots,\,6\}$$ через $$\xi_i$$ случайную величину, равную числу выпадений грани с $$i$$ очками при $$n$$ подбрасываниях кубика. Посчитаем $${{\rm cov}}(\xi_1,\,\xi_6)$$. Каждая из случайных величин $$\xi_i$$ имеет биномиальное распределение с параметрами $$n$$ и $$\frac16$$, поэтому $${\mathsf E\,}\xi_i=\frac{n}{6} , {\mathsf D\,}\xi_i=\frac{5n}{36}$$.
Далее заметим, что $$\xi_1+\ldots+\xi_6=n$$. Из-за симметрии кубика математические ожидания $${\mathsf E\,}\xi_1\xi_2$$, $$\vphantom{\int^b}{\mathsf E\,}\xi_1\xi_3$$, $${\mathsf E\,}\xi_1\xi_6$$ одинаковы, но отличаются от $${\mathsf E\,}\xi_1\xi_1={\mathsf E\,}\xi_1^2={\mathsf D\,}\xi_1+{({\mathsf E\,}\xi_1)}^2= \frac{5n}{36}+\frac{n^2}{36}$$. Посчитаем $${\mathsf E\,}\xi_1(\xi_1+\dots+\xi_6)$$. С одной стороны, это число равно$${\mathsf E\,}\xi_1(\xi_1+\ldots+\xi_6)={\mathsf E\,}\xi_1\cdot n = \frac{n^2}{6}.$$ С другой стороны,$${\mathsf E\,}\xi_1(\xi_1+\ldots+\xi_6)={\mathsf E\,}\xi_1^2+5{\mathsf E\,}\xi_1\xi_6 =\frac{5n}{36}+\frac{n^2}{36} + 5{\mathsf E\,}\xi_1\xi_6.$$ Отсюда $$5{\mathsf E\,}\xi_1\xi_6=\frac{n^2}{6}-\frac{5n}{36}-\frac{n^2}{36}$$, т.е. $${\mathsf E\,}\xi_1\xi_6=\frac{n^2-n}{36}$$. Следовательно, искомый коэффициент корреляции равен$$\rho(\xi_1,\, \xi_6)= \frac{{\mathsf E\,}\xi_1\xi_6-{\mathsf E\,}\xi_1{\mathsf E\,}\xi_6}{\sqrt{\vphantom{a^2}{\mathsf D\,}\xi_1{\mathsf D\,}\xi_6}} =\frac{(n^2-n)/36-n^2/36}{5n/36}=-\frac15.$$ Интересно, что полученный коэффициент корреляции не зависит от $$n$$.
Пример 69. Вычислим математическое ожидание и дисперсию гипергеометрического распределения. Мы не могли сделать это раньше, так как очень не хотели вычислять следующие суммы:$${\mathsf E\,}\xi=\sum\limits_k k\,\frac{C_K^k C_{N-K}^{n-k}}{C_N^n}, \qquad {\mathsf E\,}\xi^2=\sum\limits_k k^2\,\frac{C_K^k C_{N-K}^{n-k}}{C_N^n},$$ где, напомним (чтобы читатель окончательно отказался от мысли вычислить эти суммы напрямую), суммирование ведется по целым $$k$$ таким, что $${0\le k\le K}$$ и $$0\le n-k\le N-K$$.
Рассмотрим урну, содержащую $$K$$ белых шаров и $$N-K$$ не белых, и пусть из нее наудачу и без возвращения выбирают по одному $$n$$ шаров. Свяжем случайную величину $$\xi$$, равную числу белых шаров среди $$n$$ выбранных, с результатами отдельных извлечений шаров.
Обозначим через $$\xi_i$$, где $$i=1,\,\ldots,\,n$$, "индикатор" того, что $$i$$ -й по счету вынутый шар оказался белым: $$\xi_i=1$$, если при $$i$$ -м извлечении появился белый шар, иначе $$\xi_i=0$$. Тогда $$\xi=\xi_1+\ldots+\xi_n$$ - число появившихся белых шаров, и математическое ожидание считается просто:$${\mathsf E\,} \xi={\mathsf E\,}(\xi_1+\ldots+\xi_n)={\mathsf E\,}\xi_1+\ldots+{\mathsf E\,}\xi_n.$$
Убедимся, что случайные величины $$\xi_1,\,\ldots,\,\xi_n$$ имеют
одно и то же
Пронумеруем шары: белые - номерами от одного до $$K$$, остальные - номерами от $$K+1$$ до $$N$$. Элементарным исходом опыта является набор из $$n$$ номеров шаров в схеме выбора $$n$$ элементов из $$N$$ без возвращения и с учетом порядка. Общее число исходов равно $$|\Omega|=C_N^n$$.
Вычислим вероятность события $$A_i=\{\xi_i=1\}$$. Событие $$A_i$$ включает в себя элементарные исходы (наборы), в которых на $$i$$ -м месте стоит любой из номеров белых шаров, а остальные $$n-1$$ место занимают любые из оставшихся $$N-1$$ номеров. По теореме 1 о перемножении шансов число благоприятных событию $$A_i$$ исходов есть произведение $$K$$ и $$A_{N-1}^{n-1}$$. Здесь $$K$$ есть число способов поставить на $$i$$ -е место один из номеров белых шаров, $$A_{N-1}^{n-1}$$ - число способов после этого разместить на оставшихся $$n-1$$ местах остальные $$N-1$$ номеров шаров. Но тогда$$p=\Prob(\xi_i=1)=\Prob(A_i)=\frac{|A_i|}{|\mspace{4mu}\Omega\mspace{4mu}|}=\frac{K C_{N-1}^{n-1}}{C_N^n}}=\frac{K}{N}\,$$ что совершенно очевидно: вероятность 20-му шару быть белым, если мы ничего не знаем про первые 19, точно такая же, как вероятность первому шару быть белым и равна отношению числа белых шаров к числу всех.
Вернемся к математическому ожиданию:$${\mathsf E\,} \xi={\mathsf E\,}\xi_1+\ldots+{\mathsf E\,}\xi_n=n{\mathsf E\,}\xi_1=np=\frac{nK}{N}\,.$$
Вычислим дисперсию $$\xi$$.
До сих пор мы не интересовались совместным распределением $$\xi_1,\,\ldots,\,\xi_n$$:
для вычисления математического ожидания их суммы нам было достаточно знания
маргинальных распределений этих величин. Но дисперсия суммы уже не всегда
равна сумме дисперсий. Зависимость величин $$\xi_1,\,\ldots,\,\xi_n$$ очевидна:
если, скажем, случилось событие $$A_1=\{\xi_1=1\}$$, то вероятность
второму шару быть
белым уже не равна отношению $$K\mspace{2mu}/\mspace{2mu}N$$:$$\Prob(\xi_2=1\,\cond
\,\xi_1=1)=\frac{K\mspace{1mu}{-}\mspace{1mu}1}{N\mspace{1mu}{-}\mspace{1mu}1} \neq \frac{K}{N}=\Prob(\xi_2=1).$$
Поэтому при вычислении дисперсии будем пользоваться свойством 19. Вычислим
ковариацию величин $$\xi_i$$ и $$\xi_j$$, $$i\ne
j$$. Для этого сначала посчитаем $${\mathsf E\,}(\xi_i\xi_j)$$.
Произведение $$\xi_i\xi_j$$ снова имеет
Заметим любопытнейшую вещь: если вынимать шары с возвращением, то испытания станут независимыми испытаниями в схеме Бернулли; cтавшие независимыми величины $$\xi_i$$ в сумме дадут число белых шаров, имеющее биномиальное распределение с параметрами $$n$$ и $$p=\frac{K}{N}$$ и точно такое же математическое ожидание $$np=\frac{nK}{N}$$, как и у числа белых шаров при выборе без возвращения}.
Дисперсия же у числа белых шаров при выборе без возвращения меньше, чем при выборе с возвращением - за счет отрицательной коррелированности слагаемых $$\xi_i$$ и $$\xi_j$$ при $$i\ne j$$.
Мы знаем, что для независимых случайных величин с конечными вторыми моментами дисперсия их суммы равна сумме их дисперсий. В общем случае дисперсия суммы равна$$\begin{equation} {\mathsf D\,}(\xi+\eta) ={\mathsf D\,}\xi+{\mathsf D\,}\eta + 2\bigl({\mathsf E\,}(\xi\eta)-{\mathsf E\,}\xi\,{\mathsf E\,}\eta\,\bigr). \end{equation}$$
Величина $${\mathsf E\,}(\xi\eta)-{\mathsf E\,}\xi\,{\mathsf E\,}\eta$$ равняется нулю, если случайные величины $$\xi$$ и $$\eta$$ независимы (свойство (E7) математического ожидания). С другой стороны, из равенства ее нулю вовсе не следует независимость, как показывают примеры 50 и 51. Эту величину используют как "индикатор наличия зависимости" между двумя случайными величинами.
Определение 39. Ковариацией $${{\rm cov}}(\xi,\,\eta)$$ случайных величин $$\xi$$ и $$\eta$$ называется число $${{\rm cov}}(\xi,\,\eta)={\mathsf E\,}\bigl((\xi-{\mathsf E\,}\xi)(\eta-{\mathsf E\,}\eta)\bigr)$$.
Свойство 18. Справедливы равенства: $${{\rm cov}}(\xi,\,\eta)={\mathsf E\,}(\xi\eta)-{\mathsf E\,}\xi\,{\mathsf E\,}\eta;$$ $${{\rm cov}}(\xi,\,\xi)={\mathsf D\,}\xi;$$ $${{\rm cov}}(\xi,\,\eta)={{\rm cov}}(\eta,\,\xi);$$ $${{\rm cov}}(c\cdot\xi,\,\eta)=c\cdot{{\rm cov}}(\xi,\,\eta)\vphantom{\int_{b_b}}$$.
Непосредственным возведением суммы в квадрат проверяется следующее свойство.
Свойство 19. Дисперсия суммы нескольких случайных величин вычисляется по любой из следующих формул:$${\mathsf D\,}(\xi_1+\ldots+\xi_n) = \sum\limits_{i=1}^n{\mathsf D\,}\xi_i + \sum\limits_{i\ne j}{{\rm cov}}(\xi_i,\xi_j) = \\ =\sum\limits_{i=1}^n{\mathsf D\,}\xi_i + 2\sum\limits_{i < j}{{\rm cov}}(\xi_i,\xi_j) = \sum\limits_{i,j}{{\rm cov}}(\xi_i,\xi_j).$$
Обсудим достоинства и недостатки ковариации, как величины, характеризующей зависимость двух случайных величин.
Если ковариация $${{\rm cov}}(\xi,\,\eta)$$ отлична от нуля, то величины $$\xi$$ и $$\eta$$ зависимы. Чтобы судить о наличии зависимости согласно любому из определений независимости, требуется знать совместное распределение пары $$\xi$$ и $$\eta$$. Но найти совместное распределение часто бывает сложнее, чем посчитать математическое ожидание произведения $$\xi$$ и $$\eta$$. Если нам повезет, и математическое ожидание $$\xi\eta$$ не будет равняться произведению их математических ожиданий, мы установим зависимость $$\xi$$ и $$\eta$$ не находя их совместного распределения. Это очень хорошо.
Пример 65. Покажем, что с помощью ковариации можно судить о зависимости даже тогда, когда для вычисления совместного распределения недостаточно данных. Пусть $$\xi$$ и $$\eta$$ - независимые случайные величины и дисперсия $$\xi$$ отлична от нуля. Покажем, что $$\xi$$ и $$\xi+\eta$$ зависимы:$${\mathsf E\,}\bigl(\xi(\xi+\eta)\bigr)={\mathsf E\,}\xi^2+{\mathsf E\,}\xi\,{\mathsf E\,}\eta, \qquad {\mathsf E\,}\xi\,{\mathsf E\,}(\xi+\eta)={({\mathsf E\,}\xi)}^2+ {\mathsf E\,}\xi\,{\mathsf E\,}\eta.$$ Вычитая одно из другого, получим $${{\rm cov}}(\xi,\xi+\eta)={\mathsf D\,}\xi>0$$. Следовательно, $$\xi$$ и $$\xi+\eta$$ зависимы.
Упражнение. Доказать, что $$\xi$$ и $$\xi+\eta$$ независимы, если $${\mathsf D\,}\xi=0$$.
Величина $${{\rm cov}}(\xi,\,\eta)$$ не является "безразмерной": если $$\xi$$ - объем газа в сосуде, а $$\eta$$ - давление этого газа, то ковариация измеряется в $${\textrm{м}^3{\times}\,\textrm{Па}}$$. Иначе говоря, при умножении $$\xi$$ или $$\eta$$ на 100 ковариация тоже увеличится в 100 раз. Но от умножения на 100 величины не стали "более зависимыми", так что большое значение ковариации не означает более сильной зависимости. Это очень плохо.
Нужно как-то нормировать ковариацию, получив из нее "безразмерную" величину, абсолютное значение которой:
Замечание Говоря о "силе" зависимости между случайными величинами, мы имеем в виду следующее. Самая сильная зависимость - функциональная, а из функциональных - линейная зависимость, когда $$\xi=a\eta+b$$ п.н. Бывают гораздо более слабые зависимости. Так, если по последовательности независимых случайных величин $$\xi_1,\,\xi_2,\,\dots$$ построить величины $$\xi=\xi_1+\ldots+\xi_{24}+\xi_{25}$$ и $$\eta=\xi_{25}+\xi_{26}+\ldots+\xi_{90}$$, то эти величины зависимы, но очень "слабо": через единственное общее слагаемое $$\xi_{25}$$. Сильно ли зависимы число гербов в первых $$25$$ подбрасываниях монеты и число гербов в испытаниях с $$25$$ -го по $$90$$ -е?
Итак, следующая величина есть всего лишь ковариация, нормированная нужным образом.
Определение 40. Коэффициентом корреляции $$\rho(\xi,\eta)$$ случайных величин $$\xi$$ и $$\eta$$, дисперсии которых существуют и отличны от нуля, называется число$$\rho(\xi,\eta)=\frac{{{\rm cov}}(\xi,\,\eta)}{\sqrt{\vphantom{a^2}{\mathsf D\,}\xi}\sqrt{\vphantom{a^2}{\mathsf D\,}\eta}}.$$
Замечание Чтобы разглядеть "устройство" коэффициента корреляции, распишем по определению числитель и знаменатель:$$\rho(\xi,\eta)= \frac{{\mathsf E\,}\bigl((\xi-{\mathsf E\,}\xi)(\eta-{\mathsf E\,}\eta)\bigr)} {\sqrt{\vphantom{a^2}{\mathsf E\,}\bigl(\xi-{\mathsf E\,}\xi\bigr)^2} \sqrt{\vphantom{a^2}{\mathsf E\,}\bigl(\eta-{\mathsf E\,}\eta\bigr)^2}}.$$ Перед нами - "косинус угла" между двумя элементами $$\xi-{\mathsf E\,}\xi$$ и $$\eta-{\mathsf E\,}\eta$$ гильбертова пространства, образованного случайными величинами с нулевым математическим ожиданием и конечным вторым моментом, снабженного скалярным произведением $${{\rm cov}}(\xi,\,\eta)$$ и "нормой", равной корню из дисперсии, или корню из скалярного произведения $${{\rm cov}}(\xi,\xi)$$.
Пример 66. Рассмотрим продолжение примера 65, но пусть $$\xi$$ и $$\eta$$ будут не только независимыми, но и одинаково распределенными случайными величинами, и их дисперсия отлична от нуля. Найдем коэффициент корреляции величин $$\xi$$ и $$\xi+\eta$$:$$\rho(\xi,\xi+\eta)= \frac{{{\rm cov}}(\xi,\xi+\eta)}{\sqrt{\vphantom{a^2}{\mathsf D\,}\xi}\sqrt{\vphantom{a^2}{\mathsf D\,}(\xi+\eta)}}= \frac{{\mathsf D\,}\xi}{\sqrt{\vphantom{a^2}{\mathsf D\,}\xi}\sqrt{\vphantom{a^2}{\mathsf D\,}\xi+{\mathsf D\,}\eta}} =\frac{{\mathsf D\,}\xi}{\sqrt{\vphantom{a^2}{\mathsf D\,}\xi}\sqrt{\vphantom{a^2}2{\mathsf D\,}\xi}}= \frac{1}{\sqrt{2}}.$$ Коэффициент корреляции величин $$\xi$$ и $$\xi+\eta$$ равен косинусу угла $$45^\circ$$, образованного "векторами" $$\xi$$ и $$\xi+\eta$$, когда $$\xi$$ и $$\eta$$ "ортогональны" и их "длина" одинакова.
Теорема 33. Коэффициент корреляции обладает свойствами:
Доказательство. Свойство (1) мы уже много раз ( сколько?) упоминали и один раз доказали. Более того, при рассмотрении свойств математического ожидания мы привели примеры 50 и 51 - два из многих возможных примеров того, что свойство (1) в обратную сторону неверно.
Докажем свойство (2). Рассмотрим преобразование $$\widehat \xi=\frac{\xi-{\mathsf E\,}\xi}{\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}}$$ случайной величины, называемое стандартизацией. Случайная величина $$\smash[t]{\widehat\xi}\vphantom{\int_c}$$ имеет нулевое математическое ожидание и единичную дисперсию:$${\mathsf E\,}\widehat\xi={\mathsf E\,}\frac{\xi-{\mathsf E\,}\xi}{\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}}= \frac{{\mathsf E\,}\xi-{\mathsf E\,}\xi}{\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}}=0; \quad {\mathsf E\,}\widehat{\xi}^{\,2}={\mathsf D\,}\widehat\xi= {\mathsf D\,}\frac{\xi-{\mathsf E\,}\xi}{\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}}= \frac{{\mathsf D\,}(\xi-{\mathsf E\,}\xi)}{{\mathsf D\,}\xi}=1$$$ Коэффициент корреляции теперь запишется проще: $$\rho(\xi,\,\eta)={\mathsf E\,}\bigl(\,\widehat\xi\cdot\widehat\eta\,\bigr)$$. .
Далее, неравенство $$(x\pm\mspace{1mu}y)^2\geq 0$$ равносильно неравенству$$-\frac12(x^2+y^2)\leq xy\leq \frac12(x^2+y^2).$$ Подставив в него $$\widehat{\xi}$$ вместо $$x$$, $$\widehat{\eta}$$ вместо $$y$$ и взяв математические ожидания всех частей неравенства, получим свойство (2):$$\begin{equation}\label{eq-cov1} -1=-\frac12 {\mathsf E\,}\bigl(\widehat\xi^{\,2}+\widehat\eta^{\,2}\bigr) \leq \rho(\xi,\,\eta)= {\mathsf E\,}\bigl(\,\widehat\xi\cdot\widehat\eta\,\bigr) \leq \frac12 {\mathsf E\,}\bigl(\widehat\xi^{\,2}+\widehat\eta^{\,2}\bigr)=1. \end{equation}$$
Докажем свойство (3). В одну сторону утверждение проверяется непосредственно: если $$\eta=a\xi+b$$, то$$\rho(\xi,\, a\xi+b)= \frac{{\mathsf E\,}(\xi(a\xi+b))-{\mathsf E\,}\xi\cdot{\mathsf E\,}(a\xi+b)} {\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}\sqrt{\smash[b]{\mathstrut{\mathsf D\,}(a\xi+b)}}}= \frac{a{\mathsf D\,}\xi} {\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}\sqrt{a^2{\mathsf D\,}\smash[b]{\xi\mathstrut}}}= \begin{cases} \phantom-1, a>0,\\ -1, a<0. \end{cases}$$
Докажем вторую часть свойства (3): если $$|\rho(\xi,\,\eta)|=1$$, то существуют числа $$a\ne 0$$ и $$b$$ такие, что $$\Prob(\eta=a\xi+b)=1$$.
Рассмотрим сначала случай $$\rho(\xi,\,\eta)=\rho\bigl(\widehat\xi,\,\widehat\eta\bigr)=1$$. Тогда второе неравенство в формуле (19) превращается в равенство:$${\mathsf E\,}\bigl(\widehat\xi\cdot\widehat\eta\bigr)= \frac12 {\mathsf E\,}\bigl(\widehat\xi^{\,2}+\widehat\eta^{\,2}\bigr), \quad\text{т.е.}\quad {\mathsf E\,}\bigl(\widehat\xi-\widehat\eta\bigr)^2=0.$$ Если математическое ожидание неотрицательной случайной величины $$\smash{\bigl(\widehat\xi-\widehat\eta\bigr)^2}$$ равно нулю, то $$\bigl(\widehat\xi-\widehat\eta\bigr)^2=0$$, п.н. Поэтому с единичной вероятностью$$\frac{\eta-{\mathsf E\,}\eta}{\sqrt{\mathstrut{\mathsf D\,}\eta}}= \frac{\xi-{\mathsf E\,}\xi}{\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}}, \qquad \eta=\frac{\sqrt{\mathstrut{\mathsf D\,}\eta}}{\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}}\,\xi+{\mathsf E\,}\eta -\frac{\sqrt{\mathstrut{\mathsf D\,}\eta}}{\sqrt{{\mathsf D\,}\smash[b]{\xi\mathstrut}}}\,{\mathsf E\,}\xi=a\xi+b.$$ В случае $$\rho(\xi,\,\eta)=-1$$ нужно рассмотреть первое неравенство в формуле (19) и повторить рассуждения. Тем самым теорема 33 доказана.
Полезно знать следующие часто употребляемые термины.
Определение 41. Говорят, что $$\xi$$ и $$\eta$$ отрицательно коррелированы если $$\rho(\xi,\,\eta)<0;$$ положительно коррелированы, если $$\rho(\xi,\,\eta)>0;$$ некоррелированы, если $$\rho(\xi,\,\eta)=0$$.
Смысл знака $$\rho(\xi,\,\eta)$$ хорошо виден в случае $$\rho(\xi,\,\eta)=\pm 1$$. Тогда знак $$\rho$$ равен знаку $$a$$ в равенстве $$\eta=a\xi+b$$ п.н. Так, $$\rho(\xi,\,\eta)=1$$ означает, что чем больше $$\xi$$, тем больше и $$\eta$$. Напротив, $$\rho(\xi,\,\eta)=-1$$ означает, что чем больше $$\xi$$, тем меньше $$\eta$$. Похожим образом можно трактовать знак коэффициента корреляции и в случае, когда $$|\rho(\xi,\,\eta)|< 1$$, помня при этом, что зависимость между $$\xi$$ и $$\eta$$ теперь уже не линейная и, возможно, даже не функциональная.
Так, величины $$\xi$$ и $$\xi+\eta$$ в примерах 65 и 66 положительно коррелированы, но их зависимость не функциональная.
Следующее свойство показывает, что модуль коэффициента корреляции не меняется при линейных преобразованиях случайных величин.
Свойство 20. Для любых случайных величин $$\xi$$ и $$\eta$$ с конечной и ненулевой дисперсией при любых постоянных $$a\ne 0$$ и $$b$$ имеет место равенство$$\rho(a\xi+b,\,\eta)=\textup{sgn}\mspace{1mu}(a)\cdot \rho(\xi,\,\eta),$$ где $$\textup{sgn}\mspace{1mu}(a)=\frac{a}{|a|}$$ - знак $$a$$.
Доказательство. Запишем $$\rho(a\xi+b,\,\eta)$$, не забывая про свойства дисперсии:$$\qquad\rho(a\xi+b,\,\eta)=\frac{{{\rm cov}}(a\xi+b,\,\eta)}{\sqrt{\vphantom{a^2}{\mathsf D\,}(a\xi+b)}\,\sqrt{\vphantom{a^2}{\mathsf D\,}\eta}}= \frac{a\,{{\rm cov}}(\xi,\,\eta)}{\sqrt{a^2{\mathsf D\,}\xi}\,\sqrt{\vphantom{a^2}{\mathsf D\,}\eta}}= \frac{a}{|a|}\cdot \rho(\xi,\,\eta).\qquad$$
Примеры
Пример 67. Если $$\xi$$ и $$\eta$$ суть координаты точки, брошенной наудачу в треугольник $$D$$ с вершинами $$(2,0)$$, $$(0,0)$$ и $$(0,1)$$, то их коэффициент корреляции $$\rho(\xi,\,\eta)$$ отрицателен. Это можно объяснить так: чем больше $$\xi$$, тем меньше у $$\eta$$ возможностей быть большой.
Полезно убедиться в этом, проверив справедливость следующих высказываний. Во-первых,$$f_\xi(x)=\begin{cases} 1-\frac{x}{2}, 0\le x\le 2, \\ 0, \text{ иначе}; \end{cases} \quad f_\eta(y)=\begin{cases} 2-2y, 0\le y\le 1, \\ 0, \text{ иначе } \end{cases}$$ и вычисленные по этим плотностям средние ( вычислить ) равны соответственно $${\mathsf E\,}\xi=2/3$$ и $${\mathsf E\,}\eta=1/3$$.
Во-вторых, по определению многомерного равномерного распределения в области $$D$$,$${\mathsf E\,}(\xi\,\eta)=\mathop{\int\int}\limits_{\!\!D} x\cdot y \cdot 1\,\,dx\,dy= \int\limits_0^2\;\smash{\int\limits_{0}^{\,1{-}x/2}} x\,y \;dy\,\;dx=\frac16.$$ Ковариация (а с ней и коэффициент корреляции) отрицательна.
Пример 68. Найдем коэффициент корреляции между числом выпадений единицы и числом выпадений шестерки при $$n$$ подбрасываниях правильной игральной кости.
Обозначим для $$i\in\{1,\,\dots,\,6\}$$ через $$\xi_i$$ случайную величину, равную числу выпадений грани с $$i$$ очками при $$n$$ подбрасываниях кубика. Посчитаем $${{\rm cov}}(\xi_1,\,\xi_6)$$. Каждая из случайных величин $$\xi_i$$ имеет биномиальное распределение с параметрами $$n$$ и $$\frac16$$, поэтому $${\mathsf E\,}\xi_i=\frac{n}{6} , {\mathsf D\,}\xi_i=\frac{5n}{36}$$.
Далее заметим, что $$\xi_1+\ldots+\xi_6=n$$. Из-за симметрии кубика математические ожидания $${\mathsf E\,}\xi_1\xi_2$$, $$\vphantom{\int^b}{\mathsf E\,}\xi_1\xi_3$$, $${\mathsf E\,}\xi_1\xi_6$$ одинаковы, но отличаются от $${\mathsf E\,}\xi_1\xi_1={\mathsf E\,}\xi_1^2={\mathsf D\,}\xi_1+{({\mathsf E\,}\xi_1)}^2= \frac{5n}{36}+\frac{n^2}{36}$$. Посчитаем $${\mathsf E\,}\xi_1(\xi_1+\dots+\xi_6)$$. С одной стороны, это число равно$${\mathsf E\,}\xi_1(\xi_1+\ldots+\xi_6)={\mathsf E\,}\xi_1\cdot n = \frac{n^2}{6}.$$ С другой стороны,$${\mathsf E\,}\xi_1(\xi_1+\ldots+\xi_6)={\mathsf E\,}\xi_1^2+5{\mathsf E\,}\xi_1\xi_6 =\frac{5n}{36}+\frac{n^2}{36} + 5{\mathsf E\,}\xi_1\xi_6.$$ Отсюда $$5{\mathsf E\,}\xi_1\xi_6=\frac{n^2}{6}-\frac{5n}{36}-\frac{n^2}{36}$$, т.е. $${\mathsf E\,}\xi_1\xi_6=\frac{n^2-n}{36}$$. Следовательно, искомый коэффициент корреляции равен$$\rho(\xi_1,\, \xi_6)= \frac{{\mathsf E\,}\xi_1\xi_6-{\mathsf E\,}\xi_1{\mathsf E\,}\xi_6}{\sqrt{\vphantom{a^2}{\mathsf D\,}\xi_1{\mathsf D\,}\xi_6}} =\frac{(n^2-n)/36-n^2/36}{5n/36}=-\frac15.$$ Интересно, что полученный коэффициент корреляции не зависит от $$n$$.
Пример 69. Вычислим математическое ожидание и дисперсию гипергеометрического распределения. Мы не могли сделать это раньше, так как очень не хотели вычислять следующие суммы:$${\mathsf E\,}\xi=\sum\limits_k k\,\frac{C_K^k C_{N-K}^{n-k}}{C_N^n}, \qquad {\mathsf E\,}\xi^2=\sum\limits_k k^2\,\frac{C_K^k C_{N-K}^{n-k}}{C_N^n},$$ где, напомним (чтобы читатель окончательно отказался от мысли вычислить эти суммы напрямую), суммирование ведется по целым $$k$$ таким, что $${0\le k\le K}$$ и $$0\le n-k\le N-K$$.
Рассмотрим урну, содержащую $$K$$ белых шаров и $$N-K$$ не белых, и пусть из нее наудачу и без возвращения выбирают по одному $$n$$ шаров. Свяжем случайную величину $$\xi$$, равную числу белых шаров среди $$n$$ выбранных, с результатами отдельных извлечений шаров.
Обозначим через $$\xi_i$$, где $$i=1,\,\ldots,\,n$$, "индикатор" того, что $$i$$ -й по счету вынутый шар оказался белым: $$\xi_i=1$$, если при $$i$$ -м извлечении появился белый шар, иначе $$\xi_i=0$$. Тогда $$\xi=\xi_1+\ldots+\xi_n$$ - число появившихся белых шаров, и математическое ожидание считается просто:$${\mathsf E\,} \xi={\mathsf E\,}(\xi_1+\ldots+\xi_n)={\mathsf E\,}\xi_1+\ldots+{\mathsf E\,}\xi_n.$$
Убедимся, что случайные величины $$\xi_1,\,\ldots,\,\xi_n$$ имеют
одно и то же
Пронумеруем шары: белые - номерами от одного до $$K$$, остальные - номерами от $$K+1$$ до $$N$$. Элементарным исходом опыта является набор из $$n$$ номеров шаров в схеме выбора $$n$$ элементов из $$N$$ без возвращения и с учетом порядка. Общее число исходов равно $$|\Omega|=C_N^n$$.
Вычислим вероятность события $$A_i=\{\xi_i=1\}$$. Событие $$A_i$$ включает в себя элементарные исходы (наборы), в которых на $$i$$ -м месте стоит любой из номеров белых шаров, а остальные $$n-1$$ место занимают любые из оставшихся $$N-1$$ номеров. По теореме 1 о перемножении шансов число благоприятных событию $$A_i$$ исходов есть произведение $$K$$ и $$A_{N-1}^{n-1}$$. Здесь $$K$$ есть число способов поставить на $$i$$ -е место один из номеров белых шаров, $$A_{N-1}^{n-1}$$ - число способов после этого разместить на оставшихся $$n-1$$ местах остальные $$N-1$$ номеров шаров. Но тогда$$p=\Prob(\xi_i=1)=\Prob(A_i)=\frac{|A_i|}{|\mspace{4mu}\Omega\mspace{4mu}|}=\frac{K C_{N-1}^{n-1}}{C_N^n}}=\frac{K}{N}\,$$ что совершенно очевидно: вероятность 20-му шару быть белым, если мы ничего не знаем про первые 19, точно такая же, как вероятность первому шару быть белым и равна отношению числа белых шаров к числу всех.
Вернемся к математическому ожиданию:$${\mathsf E\,} \xi={\mathsf E\,}\xi_1+\ldots+{\mathsf E\,}\xi_n=n{\mathsf E\,}\xi_1=np=\frac{nK}{N}\,.$$
Вычислим дисперсию $$\xi$$.
До сих пор мы не интересовались совместным распределением $$\xi_1,\,\ldots,\,\xi_n$$:
для вычисления математического ожидания их суммы нам было достаточно знания
маргинальных распределений этих величин. Но дисперсия суммы уже не всегда
равна сумме дисперсий. Зависимость величин $$\xi_1,\,\ldots,\,\xi_n$$ очевидна:
если, скажем, случилось событие $$A_1=\{\xi_1=1\}$$, то вероятность
второму шару быть
белым уже не равна отношению $$K\mspace{2mu}/\mspace{2mu}N$$:$$\Prob(\xi_2=1\,\cond
\,\xi_1=1)=\frac{K\mspace{1mu}{-}\mspace{1mu}1}{N\mspace{1mu}{-}\mspace{1mu}1} \neq \frac{K}{N}=\Prob(\xi_2=1).$$
Поэтому при вычислении дисперсии будем пользоваться свойством 19. Вычислим
ковариацию величин $$\xi_i$$ и $$\xi_j$$, $$i\ne
j$$. Для этого сначала посчитаем $${\mathsf E\,}(\xi_i\xi_j)$$.
Произведение $$\xi_i\xi_j$$ снова имеет
Заметим любопытнейшую вещь: если вынимать шары с возвращением, то испытания станут независимыми испытаниями в схеме Бернулли; cтавшие независимыми величины $$\xi_i$$ в сумме дадут число белых шаров, имеющее биномиальное распределение с параметрами $$n$$ и $$p=\frac{K}{N}$$ и точно такое же математическое ожидание $$np=\frac{nK}{N}$$, как и у числа белых шаров при выборе без возвращения}.
Дисперсия же у числа белых шаров при выборе без возвращения меньше, чем при выборе с возвращением - за счет отрицательной коррелированности слагаемых $$\xi_i$$ и $$\xi_j$$ при $$i\ne j$$.
Для получения официальных документов о завершении программы дополнительного профессионального образования (удостоверения о повышении квалификации, дипломов о профессиональной переподготовке и MBA) необходимо предоставить:
Внимание! Вы можете не заказывать доставку бумажной версии официального документы, а скачать его в электронном виде и распечатать самостоятельно. Информация о выданном документе в течение 1 месяца загружается в Федеральную информационную систему «Федеральный реестр сведений о документах об образовании и (или) о квалификации, документах об обучении» - ФИС ФРДО.
Доступ на новый сайт осуществляется с использованием адреса электронной почты, который был указан вами при регистрации на "старом". Мы постарались перенести все ваши данные с прежнего ресурса, однако не исключена вероятность потери части информации.
При возникновении проблемы со входом, воспользуйтесь функцией сброса пароля
Если вы обнаружите несоответствия, пожалуйста, сообщите нам.