Числовые характеристики распределений

Математическое ожидание случайной величины

Определение 35. Математическим ожиданием $${\mathsf E\,}\xi$$ случайной величины $$\xi$$ с дискретным распределением называется число$${\mathsf E\,}\xi=\sum\limits_{k}a_kp_k=\sum\limits_{k}a_k\Prob(\xi=a_k),$$ если данный ряд абсолютно сходится, т.е. если $$\sum|a_i|p_i<\infty$$. В противном случае говорят, что математическое ожидание не существует.

Определение 36. Математическим ожиданием $${\mathsf E\,}\xi$$ случайной величины $$\xi$$ с абсолютно непрерывным распределением с плотностью распределения $$f_\xi(x)$$ называется число$${\mathsf E\,}\xi={\int\limits_{-\infty}^\infty} x\,f_\xi(x)\,dx,\vphantom{\int^b}$$ если этот интеграл абсолютно сходится, т.е. если$${\int\limits_{\!\!-\infty }^\infty |x|\,f_\xi(x)\,dx<\infty.}$$ В противном случае говорят, что математическое ожидание не существует.

Математическое ожидание (иначе называемое средним значением или первым моментом) имеет простой физический смысл: если на прямой разместить единичную массу, поместив в точки $$a_i$$ массу $$p_i$$ (для дискретного распределения) или "размазав" ее с плотностью $$f_\xi(x)$$ (для абсолютно непрерывного распределения), то точка $${\mathsf E\,}\xi$$ будет координатой центра тяжести прямой.

Пример 48. Пусть случайная величина $$\xi$$ равна числу очков, выпадающих при одном подбрасывании кубика. Тогда$${\mathsf E\,}\xi=\sum\limits_{k=1}^6\, k\cdot\frac{1}{6}=\frac{1}{6}\,(1+2+3+4+5+6)=3{,}5.$$ В среднем при одном подбрасывании кубика выпадает $$3{,}5$$ очка.

Пример 49. Пусть случайная величина $$\xi$$ - координата точки, брошенной наудачу на отрезок $$[a,\,b]$$. Тогда$${\mathsf E\,}\xi=\int\limits_a^b\, x\cdot\frac{1}{b-a}\,dx=\frac{x^2}{2(b-a)}{\biggm|}_a^b=\frac{b^2-a^2}{2(b-a)}=\frac{a+b}{2}$$ Центр тяжести равномерного распределения есть середина отрезка.

Свойства математического ожидания

Во всех свойствах предполагается, что рассматриваемые математические ожидания существуют.

(E1) Для произвольной борелевской функции $$g:\mathbb R\to\mathbb R$$$${\mathsf E\,} g(\xi)=\begin{cases} \displaystyle\sum\limits_k g(a_k)\Prob(\xi=a_k), \!\!\parbox[t]{8.5cm}{если распределение $\xi$ дискретно \\и ряд абсолютно сходится;} \\[3.3mm] \displaystyle\int\limits_{-\infty}^\infty g(x) f_\xi(x)\,dx, \!\!\parbox[t]{8.5cm}{если распределение $\xi$ абсолютно \\ непрерывно и интеграл \\абсолютно сходится.} \end{cases}$$

Доказательство. Мы докажем это свойство (как и почти все дальнейшие) только для дискретного распределения. Пусть $$g(\xi)$$ принимает значения $$c_1,\,c_2,\,\ldots$$ с вероятностями$$\Prob(g(\xi)=c_m)=\smash{\sum\limits_{k:\,g(a_k)=c_m}}\!\Prob(\xi=a_k)\,. \vphantom{\sum_a}$$ Тогда$$\begin{multiline*} {\mathsf E\,} g(\xi)=\sum\limits_m c_m \Prob(g(\xi)=c_m)= \sum\limits_m c_m \!\sum\limits_{k:\,g(a_k)=c_m}\Prob(\xi=a_k)= \\ =\sum\limits_m \sum\limits_{k:\,g(a_k)=c_m} g(a_k)\,\Prob(\xi=a_k)= \sum\limits_k g(a_k)\,\Prob(\xi=a_k)\,.\qquad \end{multiline*}$$

Следствие 10. Математическое ожидание $$\xi$$ существует тогда и только тогда, когда $${\mathsf E\,}|\xi|<\infty$$.

Доказательство. Условием существование математического ожидания является абсолютная сходимость ряда или интеграла в определениях 35 и 36. Это в точности есть условие $${\mathsf E\,} g(\xi)<\infty$$ при $$g(x)=|x|$$.

(E2) Математическое ожидание постоянной равно ей самой: $${\mathsf E\,} c=c$$.

(E3) Постоянную можно вынести за знак математического ожидания:$${\mathsf E\,} (c\,\xi)=c\,{\mathsf E\,}\xi.$$

Доказательство. Следует из свойства (E1) при $$g(x)=c\,x$$.

(E4) Математическое ожидание суммы любых случайных величин равно сумме их математических ожиданий, если только эти математические ожидания существуют:$${\mathsf E\,} (\xi+\eta)={\mathsf E\,}\xi+{\mathsf E\,}\eta.$$

Доказательство. Пусть случайные величины $$\xi$$ и $$\eta$$ имеют дискретные распределения со значениями $$x_k$$ и $$y_n$$ соответственно. Для борелевской функции $$g:\mathbb R^2\to\mathbb R$$ можно доказать свойство, аналогичное (E1). Воспользуемся этим свойством для $$g(x,\,y)=x+y$$:$$\begin{multiple} {\mathsf E\,}(\xi+\eta)\!{=}\!\sum_{k,\,n}(x_k+y_n)\Prob(\xi=x_k,\,\eta=y_n)=\\ \!{=}\!\sum_k x_k \sum_n \Prob(\xi=x_k,\,\eta=y_n) + \sum_n y_n \sum_k \Prob(\xi=x_k,\,\eta=y_n)=\\ \!{=}\!\sum_k x_k\, \Prob(\xi=x_k)+\sum_n y_n\, \Prob(\eta=y_n)= {\mathsf E\,}\xi+{\mathsf E\,}\eta. \qquad \end{multiple}$$

(E5) Если $$\xi\ge 0$$ п.н., т.е. если $$\Prob(\xi\ge 0)=1$$, то $${\mathsf E\,}\xi\ge 0$$.

Замечание Сокращение "п.н." читается как "почти наверное" и означает "с вероятностью $$1$$ ". По определению, математическое ожидание - это числовая характеристика распределения. Распределение же не изменится от изменения случайной величины на множестве нулевой вероятности. Поэтому, например, даже если $$\xi(\omega)\ge 0$$ не при всех $$\omega$$, а на множестве единичной вероятности, математическое ожидание $$\xi$$ все равно неотрицательно.

(E6) Если $$\xi\ge 0$$ п.н. и при этом $${\mathsf E\,}\xi= 0$$, то $$\xi=0$$ п.н.

Доказательство. Это свойство мы докажем, заранее предполагая, что $$\xi$$ имеет дискретное распределение с неотрицательными значениями $${a_k\ge 0}$$. Равенство $${\mathsf E\,}\xi=\sum a_k p_k= 0$$ означает, что все слагаемые в этой сумме равны нулю, т.е. все вероятности $$p_k$$ нулевые, кроме вероятности, соответствующей значению $$a_k=0$$.

Из свойств (E5) и (E6) следуют полезные утверждения.

Следствие. Если $$\xi\le\eta$$ п.н., то $${\mathsf E\,}\xi\le{\mathsf E\,}\eta$$.

Следствие. Если $$a\le\xi\le b$$ п.н., то $$a\le{\mathsf E\,}\xi\le b$$.

(E7) Если $$\xi$$ и $$\eta$$ независимы и их математические ожидания существуют, то $${{\mathsf E\,} (\xi\eta)={\mathsf E\,}\xi\,{\mathsf E\,}\eta}$$.

Доказательство. В дискретном случае$$\begin{multiple} {\mathsf E\,} (\xi\eta)=\sum_{k,\,n}(x_k\,y_n)\,\Prob(\xi=x_k,\,\eta=y_n)=\\ =\sum_kx_k\,\Prob(\xi=x_k)\,\sum_ny_n\,\Prob(\eta=y_n)= {\mathsf E\,}\xi\,{\mathsf E\,}\eta. \end{multiple}$$

Замечание. Обратное утверждение к свойству (E7) неверно: из равенства $${\mathsf E\,} (\xi\eta)={\mathsf E\,}\xi\,{\mathsf E\,}\eta$$ не следует независимость величин $$\xi$$ и $$\eta$$.

Пример 50. Пусть $$\xi$$ принимает значения $$0$$ и $$\pm 1$$ с вероятностями по $$1/3$$ каждое, и $$\eta=\xi^2$$. Это зависимые случайные величины:$$\Prob(\xi=1,\,\eta=0)=\Prob(\xi=1,\,\xi^2=0)=0 \neq \frac13\,\cdot\,\frac13= \Prob(\xi=1)\,\Prob(\eta=0).$$ Однако $${\mathsf E\,}\xi=0$$ и $${\mathsf E\,}(\xi\eta)={\mathsf E\,}(\xi^3)=0$$, поэтому $${\mathsf E\,} (\xi\eta)={\mathsf E\,}\xi\,{\mathsf E\,}\eta$$.

Пример 51. Пусть $${\mathsf \phi \sim{\mathrm U}_{0,\,2\pi}$$, и пусть $$\xi=\cos{\mathsf \phi$$ и $$\eta=\sin{\mathsf \phi$$ - заведомо зависимые случайные величины. Например:$$\Prob\Bigl(\xi>\frac1{\sqrt{2}},\,\eta>\frac1{\sqrt{2}}\Bigr)=0 \neq \Prob\Bigl(\xi>\frac1{\sqrt{2}}\Bigr)\Prob\Bigl(\eta>\frac1{\sqrt{2}}\Bigr) > 0.$$ Но математическое ожидание их произведения равно произведению их математических ожиданий из-за симметричности распределений $$\xi$$, $$\eta$$ и $$\xi\eta$$ относительно нуля. Действительно, по свойству (E1) имеем$${\mathsf E\,}\xi=\int_0^{2\pi} \frac1{2\pi} \cos x\,dx=0, \quad {\mathsf E\,}\eta=\int_0^{2\pi}\frac1{2\pi} \sin x\,dx=0,$$ $${\mathsf E\,}\xi\eta=\int_0^{2\pi} \frac1{2\pi} \cos x\,\sin x\,dx = 0 = {\mathsf E\,}\xi \,{\mathsf E\,}\eta.$$

Дисперсия и моменты старших порядков

Определение 37. Пусть $${\mathsf E\,}|\xi|^k<\infty$$. Число $${\mathsf E\,}\xi^k$$ называется моментом порядка $$k$$ или $$k$$ -м моментом случайной величины $$\xi$$, число $${\mathsf E\,}|\xi|^k$$ называется абсолютным $$k$$ -м моментом, $${\mathsf E\,}(\xi-{\mathsf E\,}\xi)^k$$ называется центральным $$k$$ -м моментом, и $${\mathsf E\,}|\xi-{\mathsf E\,}\xi|^k$$ - абсолютным центральным $$k$$ -м моментом} случайной величины $$\xi$$. Число $${\mathsf D\,}\xi={\mathsf E\,}(\xi-{\mathsf E\,}\xi)^2$$ (центральный момент второго порядка) называется дисперсией случайной величины $$\xi$$.

Пример 52. Пусть, скажем, случайная величина $$\xi$$ принимает значение $$0$$ с вероятностью $$0{,}99999$$ и значение $$100$$ с вероятностью $$0{,}00001$$. Посмотрим, как моменты разных порядков реагируют на большие, но маловероятные значения случайной величины:$${\mathsf E\,}\,\xi\;=0\,\cdot \,0{,}99999\, + \,100\,\cdot\, 0{,}00001= \,0{,}001, \\ {\mathsf E\,}\xi^2=0^2\cdot 0{,}99999+ {100}^2\cdot 0{,}00001=0{,}1, \\ {\mathsf E\,}\xi^4=0^4\cdot 0{,}99999+{100}^4\cdot 0{,}00001=1\,000,\\ {\mathsf E\,}\xi^6=0^6\cdot 0{,}99999+{100}^6\cdot 0{,}00001=10\,000\,000.$$

Пример 53. Дисперсия $${\mathsf D\,}\xi={\mathsf E\,}(\xi-{\mathsf E\,}\xi)^2$$ есть "среднее значение квадрата отклонения случайной величины $$\xi$$ от своего среднего". Посмотрим, за что эта величина отвечает.

Пусть случайная величина $$\xi$$ принимает значения $$\pm 1$$ с равными вероятностями, а случайная величина $$\eta$$ - значения $$\pm 10$$ с равными вероятностями. Тогда $${\mathsf E\,}\xi={\mathsf E\,}\eta=0$$, поэтому $${\mathsf D\,}\xi={\mathsf E\,}\xi^2=1$$, $${\mathsf D\,}\eta={\mathsf E\,}\eta^2=100$$. Говорят, что дисперсия характеризует степень разброса значений случайной величины вокруг ее математического ожидания.

Определение 38. Число $$\sigma=\sqrt{{\mathsf D\,}\xi}$$ называют среднеквадратическим отклонением случайной величины $$\xi$$.

Чтобы прояснить связь моментов разных порядков, докажем несколько неравенств. Во-первых, получим очевидное утверждение, обеспечивающее существование моментов меньших порядков, если существуют моменты более высокого порядка.

Теорема 31. Если существует момент порядка $$t>0$$ случайной величины $$\xi$$, то существуют и ее моменты порядка $$s$$ при $$0<s<t$$.

Доказательство. Для любого числа $$x$$ верно неравенство$$|x|^s\le \max\{\,|x|^t,\;1\}\,\le \,|x|^t+1.$$ Действительно, $$|x|^s\le |x|^t$$ при $$|x|>1$$, и $$|x|^s\le 1$$ при $$|x|\le 1$$.

Из этого неравенства следует, что $$|\xi(\omega)|^s\le |\xi(\omega)|^t+1$$ для всех $$\omega$$. Но следствие 11 позволяет из неравенства для случайных величин получить такое же неравенство для их математических ожиданий:$${\mathsf E\,}|\xi|^s\le{\mathsf E\,}|\xi|^t+1.$$ Момент порядка $$t$$ существует, т.е. $${\mathsf E\,}|\xi|^t<\infty$$. Поэтому и $${\mathsf E\,}|\xi|^s<\infty$$.

Докажем еще одно чрезвычайно полезное неравенство.

Теорема 32 (неравенство Йенсена). Пусть вещественнозначная функция $$g$$ "выпукла вниз", т.е. ее надграфик есть выпуклое множество. Тогда для любой случайной величины $$\xi$$ с конечным первым моментом верно неравенство: $${\mathsf E\,} g(\xi)\ge g({\mathsf E\,}\xi)$$. Для вогнутых функций знак неравенства меняется на противоположный.

Доказательство. Нам понадобится следующее свойство.

Лемма 6. Пусть функция $$g$$ выпукла. Тогда для всякого $$x_0$$ найдется число $$c(x_0)$$ такое, что при всех $$x$$$$g(x)\ge g(x_0) + c(x_0)(x-x_0).$$

Это свойство очевидно и означает, что график выпуклой функции лежит полностью выше любой из касательных к этому графику.

Возьмем в условиях леммы $$x_0={\mathsf E\,}\xi$$, $$x=\xi$$. Тогда$$g(\xi)\ge g({\mathsf E\,}\xi)+c({\mathsf E\,}\xi)(\xi-{\mathsf E\,}\xi).$$ Вычислим математическое ожидание обеих частей неравенства. Так как $${\mathsf E\,}(\xi-{\mathsf E\,}\xi)=0$$, и неравенство между математическими ожиданиями сохраняется по следствию 11, то $${\mathsf E\,} g(\xi)\ge g({\mathsf E\,}\xi)$$.

Следующее неравенство связывает моменты разных порядков.

Следствие 13. Если $${\mathsf E\,}{|\xi|}^t<\infty$$, то для любого $$0<s<t$$$$\sqrt[\mbox{\small $s$ }]{{\mathsf E\,}{|\xi|}^s} \le \sqrt[\mbox{\small $t$ }]{{\mathsf E\,}{|\xi|}^t}$$

Доказательство. Поскольку $$0<s<t$$, то $$g(x)=|x|^{t/s}$$ - выпуклая функция. По неравенству Йенсена для $$\eta=|\xi|^s$$,$$({\mathsf E\,}{|\xi|^s})^{t/s}=({\mathsf E\,}\eta)^{t/s}=g({\mathsf E\,}\eta) \le {\mathsf E\,} g(\eta)= {\mathsf E\,}{|\eta|^{t/s}}={\mathsf E\,}{|\xi|^{s\cdot t/s}}= {\mathsf E\,}{|\xi|^t}.$$ Осталось извлечь из обеих частей корень степени $$t$$.

Из неравенства Йенсена вытекают, например, неравенства:$$\begin{align*} \qquad\qquad{\mathsf E\,} e^{\xi} \geq e^{{\mathsf E\,}\xi}, {\mathsf E\,}\xi^2 \geq ({\mathsf E\,}\xi)^2, {\mathsf E\,}|\xi| \geq |{\mathsf E\,}\xi|, \cr {\mathsf E\,} \ln\xi \leq \ln({\mathsf E\,}\xi), {\mathsf E\,} \frac{1}{\xi} \geq \frac{1}{{\mathsf E\,}\xi}, {\mathsf E\,} \sqrt{\mathstrut\xi} \leq \sqrt{\mathstrut{\mathsf E\,}\xi}. \qquad\qquad \end{align*}$$ Последние три неравенства верны для положительных $$\xi$$.

Свойства дисперсии

Свойства дисперсии следуют из соответствующих свойств математического ожидания. Заметим, что из существования второго момента следует существование математического ожидания случайной величины и конечность дисперсии. Во всех свойствах ниже предполагается существование вторых моментов случайных величин.

(D1) Дисперсия может быть вычислена по формуле: $${\mathsf D\,}\xi={\mathsf E\,}\xi^2-{({\mathsf E\,}\xi)}^2$$.

Доказательство. Положим для удобства $$a={\mathsf E\,}\xi$$. Тогда$${\mathsf D\,}\xi={\mathsf E\,}{(\xi-a)^2}= {\mathsf E\,}(\xi^2-2a\xi+a^2)= {\mathsf E\,}\xi^2-2a{\mathsf E\,}\xi+a^2= {\mathsf E\,}\xi^2-a^2.$$

(D2) При умножении случайной величины на постоянную $$c$$ дисперсия увеличивается в $$c^2$$ раз: $${\mathsf D\,}(c\xi)=c^2\,{\mathsf D\,}\xi$$.

(D3) Дисперсия всегда неотрицательна: $${\mathsf D\,}\xi\ge 0$$. Дисперсия обращается в нуль лишь для вырожденного распределения: если $${\mathsf D\,}\xi = 0$$, то $$\xi=const$$ п.н. и наоборот.

Доказательство. Дисперсия есть математическое ожидание почти наверное неотрицательной случайной величины $$(\xi-{\mathsf E\,}\xi)^2$$, и неотрицательность дисперсии следует из свойства (E5). Далее, по свойству (E6) из равенства дисперсии нулю вытекает $$(\xi-{\mathsf E\,}\xi)^2=0$$ п.н., т.е. $$\xi={\mathsf E\,}\xi$$ п.н. И наоборот, если $$\xi=c$$ п.н., то $${\mathsf D\,}\xi={\mathsf E\,}(c-{\mathsf E\,} c)^2=0$$.

(D4) Дисперсия не зависит от сдвига случайной величины на постоянную: $${\mathsf D\,}(\xi+c)={\mathsf D\,}\xi$$.

(D5) Если $$\xi$$ и $$\eta$$ независимы, то $${\mathsf D\,}(\xi+\eta)= {\mathsf D\,}\xi+{\mathsf D\,}\eta$$.

Доказательство. Действительно,$$\begin{multiline*} {\mathsf D\,}(\xi+\eta)={\mathsf E\,}(\xi+\eta)^2-({\mathsf E\,}(\xi+\eta))^2=\;\\ =\,{\mathsf E\,}\xi^2+{\mathsf E\,}\eta^2+ 2{\mathsf E\,}(\xi\eta) - {({\mathsf E\,}\xi)}^2-{({\mathsf E\,}\eta)}^2 -2{\mathsf E\,}\xi{\mathsf E\,}\eta ={\mathsf D\,}\xi+{\mathsf D\,}\eta, \end{multiline*}$$ так как математическое ожидание произведения независимых случайных величин равно произведению их математических ожиданий.

Замечание См. замечание 2.

Следствие 14. Если $$\xi$$ и $$\eta$$ независимы, то$${\mathsf D\,}(\xi-\eta)={\mathsf D\,}(\xi+\eta)= {\mathsf D\,}\xi+{\mathsf D\,}\eta.$$

Доказательство. Из свойств (D5) и (D2) получим$${\mathsf D\,}(\xi-\eta)={\mathsf D\,}(\xi+(-\eta))={\mathsf D\,}\xi+{\mathsf D\,}(-\eta)= {\mathsf D\,}\xi+(-1)^2{\mathsf D\,}\eta={\mathsf D\,}\xi+{\mathsf D\,}\eta.$$

Следствие 15. Для произвольных случайных величин $$\xi$$ и $$\eta$$ с конечными вторыми моментами имеет место равенство$${\mathsf D\,}(\xi+\eta)={\mathsf D\,}\xi+{\mathsf D\,}\eta + 2\,\bigl({\mathsf E\,}(\xi\eta)-{\mathsf E\,}\xi\,{\mathsf E\,}\eta\,\bigr).$$

(D6) Минимум среднеквадратического отклонения случайной величины $$\xi$$ от точек числовой прямой есть среднеквадратическое отклонение $$\xi$$ от ее математического ожидания: $${\mathsf D\,}\xi={\mathsf E\,}(\xi-{\mathsf E\,}\xi)^2=\min\limits_a {\mathsf E\,}(\xi- a)^2$$.

Доказательство. Сравним величину $${\mathsf E\,}(\xi- a)^2$$ с дисперсией:$$\begin{multiline*} {\mathsf E\,}(\xi- a)^2=\smash{{\mathsf E\,}{\bigl( (\xi-{\mathsf E\,}\xi)+({\mathsf E\,}\xi- a)\bigr)}^2}= \\ ={\mathsf D\,}\xi+{\bigl({\mathsf E\,}\xi-a\bigr)}^2 +2 ({\mathsf E\,}\xi-{\mathsf E\,}\xi)\,\bigl({\mathsf E\,}\xi-a\bigr)= {\mathsf D\,}\xi+{\bigl({\mathsf E\,}\xi-a\bigr)}^2\ge {\mathsf D\,}\xi, \end{multiline*}$$ и последнее неравенство превращается в равенство лишь при $$a={\mathsf E\,}\xi$$.

Математические ожидания и дисперсии стандартных распределений

Пример 54. (вырожденное распределение $$\mathrm I_c$$ ) Математическое ожидание и дисперсию этого распределения мы знаем из свойств (E2) и (D3): $${\mathsf E\,} c=c$$, $${\mathsf D\,} c=0$$.

Пример 55 (распределение Бернулли $$\mathrm B_p$$ ). Вычислим два момента и дисперсию: $${\mathsf E\,}\xi=1\cdot p\,+\,0\cdot q=p;$$ $${\mathsf E\,}\xi^2=1^2\cdot p\,+\,0^2\cdot q=p;$$ $${\mathsf D\,}\xi={\mathsf E\,}\xi^2-{({\mathsf E\,}\xi)}^2=p-p^2=pq$$.

Пример 56 (биномиальное распределение $$\mathrm B_{n,\,p\,}$$ ). Используем свойство устойчивости биномиального распределения относительно суммирования - лемму 2. Возьмем на каком-нибудь вероятностном пространстве $$n$$ независимых случайных величин $$\xi_1,\,\dots,\,\xi_n$$ с распределением Бернулли $$\mathrm B_p=\mathrm B_{1,\,p}\mspace{1mu}$$. Тогда их сумма $$S_n=\xi_1+\ldots+\xi_n$$ имеет распределение $$\mathrm B_{n,\,p}\mspace{1mu}$$ и по свойству (E4) получаем$${\mathsf E\,} S_n=\sum\limits_{i=1}^n{\mathsf E\,}\xi_i=n{\mathsf E\,}\xi_1=np.$$ А поскольку $$\xi_i$$ независимы, и дисперсия каждой равна $$pq$$, то$${\mathsf D\,} S_n=\sum\limits_{i=1}^n{\mathsf D\,}\xi_i=n{\mathsf D\,}\xi_1=npq.$$ Итак, $${\mathsf E\,}\xi=np$$, $${\mathsf D\,}\xi=npq$$ для $$\xi{\,\sim\,}C_{n,\,p}$$.

Пример 57 (геометрическое распределение $$\mathrm G_p$$ ). Вычислим математическое ожидание $$\xi$$:$${\mathsf E\,}\xi =\sum_{k=1}^\infty k\,p\,q^{k-1}= p\,\sum_{k=1}^\infty k\,q^{k-1}= p\,\sum_{k=1}^\infty \frac{dq^k}{dq}\,=\\ = p\,\frac{d}{dq}\Biggl(\,\sum_{k=1}^\infty q^k\Biggr) = p\,\frac{d}{dq}\left(\frac{q}{1-q}\right)=p\,\frac{1}{(1-q)^2}= \frac{1}{p}. \qquad$$ Вычислим так называемый "второй факториальный момент" $$\xi$$:$${\mathsf E\,}\xi(\xi-1) = \sum\limits_{k=1}^\infty k(k-1)\,p\,q^{k-1}= p\,q\,\sum\limits_{k=0}^\infty \frac{d^2q^k}{dq^2}= p\,q\,\frac{d^2}{dq^2}\left(\,\sum\limits_{k=0}^\infty q^k\right)= \\ = p\,q\,\frac{d^2}{dq^2}\left(\frac{1}{1-q}\right)= p\,q\,\frac{2}{(1-q)^3}=\frac{2q}{p^2}.$$ Найдем дисперсию через второй факториальный момент:$$\displaystyle {\mathsf D\,}\xi={\mathsf E\,}\xi(\xi-1)+{\mathsf E\,}\xi-({\mathsf E\,}\xi)^2= \frac{2q}{p^2}+\frac{1}{p} - \frac{1}{p^2}=\frac{2q-1+p}{p^2}=\frac{q}{p^2}.$$

Пример 58 (распределение Пуассона $$\Pi_\lambda$$ ). Вычислим математическое ожидание $$\xi$$:$${\mathsf E\,}\xi =\sum\limits_{k=0}^\infty k\,\frac{\lambda^k}{k!}\,e^{-\lambda}= e^{-\lambda}\sum\limits_{k=1}^\infty k\,\frac{\lambda^k}{k!}= e^{-\lambda}\sum\limits_{k=1}^\infty \frac{\lambda^k}{(k-1)!}= \\ =\lambda e^{-\lambda}\sum\limits_{k=1}^\infty \frac{\lambda^{k-1}}{(k-1)!}= \lambda e^{-\lambda}\sum\limits_{m=0}^\infty \frac{\lambda^m}{m!}= \lambda e^{-\lambda}e^{\lambda}=\lambda.$$ Моменты более высоких порядков легко находятся через факториальные моменты $${\mathsf E\,}\xi^{[m]}={\mathsf E\,}\xi(\xi-1)\ldots(\xi-m+1)$$ порядка $$m$$. Так, второй факториальный момент $$\xi$$ равен$${\mathsf E\,}\xi(\xi-1) =\sum_{k=0}^\infty k(k-1)\,\frac{\lambda^k}{k!}\,e^{-\lambda} =\lambda^2e^{-\lambda}\sum_{k=2}^\infty \frac{\lambda^{k-2}}{(k-2)!}= \lambda^2e^{-\lambda}e^\lambda=\lambda^2.$$ Поэтому $${\mathsf E\,}\xi^2={\mathsf E\,}\xi(\xi-1) +{\mathsf E\,}\xi=\lambda^2+\lambda$$ и $${\mathsf D\,}\xi={\mathsf E\,}\xi^2-({\mathsf E\,}\xi)^2=\lambda\vphantom{\int_{\sum_f}}$$.

Пример 59 (равномерное распределение $${\mathrm U}_{a,b}$$ ). Математическое ожидание $${\mathsf E\,}\xi=\frac{a+b}{2}$$ найдено в примере 49. Вычислим второй момент:$${\mathsf E\,}\xi^2=\int\limits_{-\infty}^\infty x^2 f_\xi(x)\,dx= \int\limits_a^b x^2\,\frac{1}{b-a}\,dx=\frac{b^3-a^3}{3(b-a)} =\frac{a^2+ab+b^2}{3}.$$ Дисперсия равна $${\mathsf D\,}\xi={\mathsf E\,}\xi^2-({\mathsf E\,}\xi)^2={(b-a)^2}/\,{12}$$.

Пример 60 (стандартное нормальное распределение $${\mathrm N}_{0,\,1}$$ ). Математическое ожидание этого распределения существует, поскольку$${\mathsf E\,}|\xi|=\frac{2}{\sqrt{2\pi}}\int\limits_0^\infty xe^{-x^2\!/2}\,dx =\frac{2}{\sqrt{2\pi}}\int\limits_0^\infty e^{-x^2\!/2}\,d(x^2\!/2) =\frac{2}{\sqrt{2\pi}} < \infty.$$ Математическое ожидание $$\xi$$ равно нулю:$${\mathsf E\,}\xi=\int\limits_{-\infty}^\infty x f_\xi(x)\,dx= \frac{1}{\sqrt{2\pi}}\,\int\limits_{-\infty}^\infty x\,e^{-x^2\!/2}\,dx= 0,$$ так как под сходящимся интегралом стоит нечетная функция. Далее,$${\mathsf E\,}\xi^2\!\!{=\!\!}\frac{1}{\sqrt{2\pi}}\int\limits_{-\infty}^\infty x^2\,e^{-x^2\!/2}\,dx=\frac{2}{\sqrt{2\pi}}\,\int\limits_{0}^\infty x^2 \,e^{-x^2\!/2}\,dx=-\frac{2}{\sqrt{2\pi}}\,\int\limits_{0}^\infty x \,de^{-x^2\!/2}= \\ \!\!{=\!\!} -\frac{\,2x}{\sqrt{2\pi}}\,e^{-x^2\!/2}{\bigg|}_0^\infty+ 2\int\limits_0^\infty\frac{1}{\sqrt{2\pi}}\,e^{-x^2\!/2}\,dx=0+\int\limits_{-\infty}^\infty\frac{1}{\sqrt{2\pi}}\,e^{-x^2\!/2}\,dx=1.$$ Поэтому $${\mathsf D\,}\xi={\mathsf E\,}\xi^2-({\mathsf E\,}\xi)^2=1-0=1$$.

Пример 61. (нормальное распределение $${\mathrm N}_{a,\,\sigma^2}$$ ) Мы знаем, что если $$\xi{\,\sim\,}{\mathrm N}_{a,\,\sigma^2}$$, то $$\eta=\frac{\xi-a}\sigma{\,\sim\,}{\mathrm N}_{0,\,1}$$. Математическое ожидание $${\mathsf E\,}\eta=0$$ и дисперсия $${\mathsf D\,}\eta=1$$ стандартного нормального распределения вычислены выше. Тогда$${\mathsf E\,}\xi={\mathsf E\,}(\sigma\eta+a)=\sigma{\mathsf E\,}\eta+a=a; \quad {\mathsf D\,}\xi={\mathsf D\,}(\sigma\eta+a)=\sigma^2{\mathsf D\,}\eta=\sigma^2.$$

Итак, параметры $$a$$ и $$\sigma^2$$ нормального распределения суть его математическое ожидание и дисперсия.

Пример 62 (показательное распределение $${\mathrm E}_\alpha$$ ).

Найдем для произвольного $$k\in\mathbb N$$ момент порядка $$k\text{:}$$$${\mathsf E\,}\xi^k=\int\limits_{-\infty}^\infty x^k f_\xi(x)\,dx= \int\limits_{0}^\infty x^k\,\alpha\,e^{-\alpha x}\,dx= \frac{1}{\alpha^k} \int\limits_{0}^\infty (\alpha x)^k\,e^{-\alpha x}\,d(\alpha x)= \frac{k!}{\alpha^k}.$$ В последнем равенстве мы воспользовались гамма-функцией Эйлера:$$\Gamma(k+1)=\int\limits_{0}^\infty u^k\,e^{-u}\,du=k!$$ Из формулы для момента порядка $$k$$ находим$${\mathsf E\,}\xi=\frac{1}{\alpha}, \quad {\mathsf E\,}\xi^2=\frac{2}{\alpha^2},\quad {\mathsf D\,}\xi={\mathsf E\,}\xi^2-({\mathsf E\,}\xi)^2=\frac{1}{\alpha^2}.$$

Пример 63 (стандартное распределение Коши $$\mathrm C_{0,\,1}$$ ). Математическое ожидание распределения Коши не существует, так как расходится интеграл$${\mathsf E\,}|\xi|=\int\limits_{-\infty}^\infty |x|\,\frac{1}{\pi(1+x^2)}\,dx =\int\limits_0^\infty \frac{1}{\pi(1+x^2)}\,dx^2=\lim_{x\to+\infty}\frac1\pi \ln(1+x^2)=+\infty.$$ Расходится он потому, что подынтегральная функция ведет себя на бесконечности как $$1/x$$. Поэтому не существуют ни дисперсия, ни моменты более высоких порядков этого распределения. То же самое можно сказать про распределение Коши $$\mathrm C_{a,\,\sigma}$$.

Пример 64 (распределение Парето).

У распределения Парето существуют только моменты порядка $$t<\alpha$$, поскольку$${\mathsf E\,}|\xi|^t=\int\limits_1^\infty x^t\,\alpha\,\frac{1}{x^{\alpha+1}}\,dx= \int\limits_1^\infty \alpha\,\frac{1}{x^{\alpha-t+1}}\,dx$$ сходится при $$t<\alpha$$, когда подынтегральная функция на бесконечности ведет себя как $$1\,/\,{x^{s+1}}$$, где $$s=\alpha-t>0$$.

Другие числовые характеристики распределений

Распределения можно характеризовать и многими другими показателями, большинство из которых находит основное применение в статистике. Здесь мы только кратко познакомимся с их определениями.

Медианой распределения случайной величины $$\xi$$ называется любое из чисел $$\mu$$ таких, что$$\Prob(\xi\leq \mu)\geq \frac12, \quad \Prob(\xi\geq\mu)\geq \frac12.$$

Медиана распределения всегда существует, но может быть не единственна. Так, у биномиального распределения с параметрами $$3$$ и $$\frac12$$ медианой будет любое число из отрезка $$[1,\,2]$$. Действительно, $$\xi$$ принимает значения $$0$$, $$1$$, $$2$$ и $$3$$ с вероятностями соответственно $$\frac{1\vphantom{h}}{8\vphantom{f}}$$, $$\frac38$$, $$\frac38$$ и $$\frac18$$. Поэтому для всех $$\mu\in[1,\,2]$$$$\Prob(\xi\leq \mu)\geq\frac12, \quad \Prob(\xi\geq \mu)\geq\frac12.$$ Часто в таких случаях в качестве $$\mu$$ берут середину "отрезка медиан".

Для распределений с непрерывной и строго монотонной функцией распределения $$F$$ медиана является единственным решением уравнения $$F(\mu)=\frac12$$. Это точка, левее и правее которой на числовой прямой сосредоточено ровно по половине всей вероятностной "массы" (рис 10.1). Если распределение имеет плотность $$f$$, то площади каждой из областей под графиком плотности слева и справа от точки $$\mu$$ одинаковы.

Медиана является одной из квантилей распределения. Пусть для простоты функция распределения $$F$$ непрерывна и строго монотонна. Тогда квантилью уровня $$\delta \in(0, 1)$$ называется решение уравнения $$F(x_\delta)=\delta$$.

Квантиль $$x_\delta$$ уровня $$\delta$$ отрезает от области под графиком плотности область с площадью $$\delta$$ слева от себя, и с площадью $$1-\delta$$ - справа. Медиана является квантилью уровня $$\delta=\frac12$$.

Квантили уровней, кратных $$0{,}01$$, в прикладной статистике называют процентилями, квантили уровней, кратных $$0{,}1$$, - децилями, уровней, кратных $$0{,}25$$, - квартилями.

Модой абсолютно непрерывного распределения называют любую точку локального максимума плотности распределения. Для дискретных распределений модой считают любое значение $$a_i$$, вероятность которого больше, чем вероятности соседних значений (соседнего, если таковое одно).

Для нормального распределения $${\mathrm N}_{a,\,\sigma^2}$$ медиана, математическое ожидание и мода равны $$a$$. Распределение, обладающее единственной модой, называют унимодальным. Идеальным примером унимодального распределения является нормальное распределение. Плотность произвольного унимодального распределения может быть как более плоской (равномерное распределение), так и более "островершинной" (показательное распределение) по сравнению с плотностью нормального распределения, может быть симметричной либо наклоненной в одну сторону. Для описания таких свойств плотности используют коэффициент эксцесса и коэффициент асимметрии.

Коэффициентом асимметрии распределения с конечным третьим моментом называется число$$\beta_1 = {\mathsf E\,}\Bigl(\!\frac{\xi-a}{\sigma}\!\Bigr)^{\!3},$$ где $$a={\mathsf E\,}\xi$$, $$\sigma=\sqrt{{\mathsf D\,}\xi\mathstrut}$$.

Для симметричных распределений коэффициент асимметрии равен нулю. Если $$\beta_1>0$$, то график плотности распределения имеет более крутой наклон слева и более пологий - справа; при $$\beta_1<0$$ - наоборот.

Коэффициентом эксцесса распределения с конечным четвертым моментом называется число$$\beta_2 = {\mathsf E\,}\Bigl(\!\frac{\xi-a}{\sigma}\!\Bigr)^{\!4}-3.\vphantom{\int_a^b}$$

Для всех нормальных распределений коэффициент эксцесса равен нулю. Действительно, для $$\xi\sim{\mathrm N}_{a,\,\sigma^2}$$ величина $$\eta=\frac{\xi-a}{\sigma}\vphantom{\sum_1^b}$$ имеет стандартное нормальное распределение. Четвертый момент этого распределения равен трем: $${\mathsf E\,}\eta^4=3$$ ( вычислить аналогично второму моменту в примере 60 ). Поэтому $$\beta_2=0$$.

При $$\beta_2>0$$ плотность распределения имеет более острую вершину, чем у нормального распределения, при $$\beta_2<0$$, наоборот, более плоскую.