Многомерный статистический анализ

Оценивание остаточной дисперсии. В точках $$t_k , k = 1,2,...,n$$, имеются исходные значения зависимой переменной $$x_k$$ и восстановленные значения $$x*(t_k)$$. Рассмотрим остаточную сумму квадратов$$SS=\sum_{i=1}^n(x^*(t_i)-x(t_i))^2= \sum_{i=1}^n\{(a^*-a)(t_i-t_{cp})+((b^*-b)-e_i)^2\}.$$

В соответствии с формулами (5) и (6)$$SS=\sum_{i=1}^n \left\{ (t_i-t_{cp})\sum_{j=1}^n c_j e_j+\frac{1}{n}\sum_{j=1}^n e_j-e_i \right\}^2= \sum_{i=1}^n \left\{ \sum_{j=1}^n \left\{ c_j(t_i-t_{cp})+\frac{1}{n} \right\} e_j-e_i \right\}^2= \sum_{i=1}^n SS_i.$$

Найдем математическое ожидание каждого из слагаемых:$$M(SS_i)=\sum_{j=1}^n \left\{ c_j(t_i-t_{cp})+\frac{1}{n} \right\}^2\sigma^2-2 \left\{ c_i(t_i-t_{cp})+\frac{1}{n} \right\}\sigma^2+\sigma^2.$$

Из сделанных ранее предположений вытекает, что при $$n\rightarrow\infty$$ имеем $$M(SS_i)\rightarrow\sigma^2, i=1,2,...,n$$, следовательно, по закону больших чисел статистика $$SS/n$$ является состоятельной оценкой остаточной дисперсии $$\sigma^2$$.

Получением состоятельной оценкой остаточной дисперсии завершается последовательность задач, связанных с рассматриваемым простейшим вариантом метода наименьших квадратов. Не представляет труда выписывание верхней и нижней границ для прогностической функции:$$x_{\textit{верх}}(t)=a^*(t-t_{cp})+b^*+\delta(t),\; x_{\textit{нижн}}(t)=a^*(t-t_{cp})+b^*-\delta(t),$$ где погрешность $$\delta(t)$$ имеет вид$$\delta(t)=U(p)\sigma^* \left\{ \frac{1}{n}+\frac{(t-t_{cp})^2}{\sum\limits_{i=1}^n(t-t_{cp})^2} \right\}^{1/2},\; \sigma^*=\left(\frac{SS}{n}\right)^{1/2}.$$

Здесь $$p$$ - доверительная вероятность, $$U(p)$$, как и в лекции 8, - квантиль нормального распределения порядка $$(1+p)/2$$, т.е.$$\Phi(U(p))=\frac{1+p}{2}.$$

При $$p= 0,95$$ (наиболее применяемое значение) имеем $$U(p) = 1,96$$. Для других доверительных вероятностей соответствующие значения квантилей можно найти в статистических таблицах (см., например, []).

Сравнение параметрического и непараметрического подходов. Во многих литературных источниках рассматривается параметрическая вероятностная модель метода наименьших квадратов. В ней предполагается, что погрешности имеют нормальное распределение. Это предположение позволяет математически строго получить ряд выводов. Так, распределения статистик вычисляются точно, а не в асимптотике, соответственно вместо квантилей нормального распределения используются квантили распределения Стьюдента, а остаточная сумма квадратов $$SS$$ делится не на $$n$$, а на $$(n-2)$$. Ясно, что при росте объема данных различия стираются.

Рассмотренный выше непараметрический подход не использует нереалистическое предположение о нормальности погрешностей (см. лекцию 5). Платой за это является асимптотический характер результатов. В случае простейшей модели метода наименьших квадратов оба подхода дают практически совпадающие рекомендации. Это не всегда так, не всегда два подхода дают близкие результаты. Напомним, что в задаче обнаружения выбросов методы, опирающиеся на нормальное распределение, нельзя считать обоснованными, и это их свойство было обнаружено с помощью непараметрического подхода (см. лекцию 7).

Общие принципы. Кратко сформулируем несколько общих принципов построения, описания и использования методов прикладной статистики. Во-первых, должны быть четко сформулированы исходные предпосылки, т.е. полностью описана используемая вероятностно-статистическая модель. Во-вторых, не следует принимать предпосылки, которые редко выполняются на практике. В-третьих, алгоритмы расчетов должны быть корректны с точки зрения математико-статистической теории. В-четвертых, алгоритмы должны давать полезные для практики выводы.

Применительно к задаче восстановления зависимостей это означает, что целесообразно применять непараметрический подход, что и сделано выше. Однако предположение нормальности, хотя и очень сильно сужает возможности применения, с чисто математической точки зрения позволяет продвинуться дальше. Поэтому для первоначального изучения ситуации, так сказать, "в лабораторных условиях", нормальная модель может оказаться полезной.

Пример оценивания по методу наименьших квадратов. Пусть даны $$n = 6$$ пар чисел $$(t_k , x_k), k = 1,2,...,6$$, представленных во втором и третьем столбцах табл.9.2. В соответствии с формулами (2) и (4) для вычисления оценок метода наименьших квадратов достаточно найти суммы выражений, представленных во втором, третьем, четвертом и пятом столбцах табл.9.2.

В соответствии с формулой (2) $$b^* =26,83$$, а согласно формуле (4)$$a^*=\frac{1111-\frac{1}{6}161\times 34}{256-\frac{1}{6}(34)^2}= \frac{1111-912,33}{256-192,67}=\frac{198,67}{63,33}=3,14.$$

Следовательно, прогностическая формула имеет вид$$\begin{aligned} x^*(t)=3,14(t-5,67)+26,83=3,14t-3,14\times 5,67+26,83=\\ =3,14t-17,80+26,83=3,14t+9,03. \end{aligned}$$

Следующий этап анализа данных - оценка точности приближения функции методом наименьших квадратов. Сначала рассматриваются так называемые восстановленные значения$$\widehat{x}_i=x^*(t_i),\; i=1,2,...,n.$$

Это те значения, которые полученная в результате расчетов прогностическая функция принимает в тех точках, в которых известны истинные значения зависимой переменной $$x_i$$.

Вполне естественно сравнить восстановленные и истинные значения. Это и сделано в шестом - восьмом столбцах табл.9.2. Для простоты расчетов в шестом столбце представлены произведения $$a^*(t_i)$$, седьмой отличается от шестого добавлением константы 9,03 и содержит восстановленные значения. Восьмой столбец - это разность третьего и седьмого.

Непосредственный анализ восьмого столбца табл.9.2 показывает, что содержащиеся в нем числа сравнительно невелики по величине по сравнению с третьим столбцом (на порядок меньше по величине). Кроме того, знаки "+" и "-" чередуются. Эти два признака свидетельствуют о правильности расчетов. При использовании метода наименьших квадратов знаки не всегда чередуются. Однако если сначала идут только плюсы, а потом только минусы (или наоборот, сначала только минусы, а потом только плюсы), то это верный показатель того, что в вычислениях допущена ошибка.

Верно следующее утверждение.

Теорема.$$\sum_{i=1}^n(x_i-\widehat{x}_i)=0.$$

Доказательство этой теоремы оставляем читателю в качестве упражнения.

Однако сумма по восьмому столбцу дает 0,06, а не 0. Незначительное отличие от 0 связано с ошибками округления при вычислениях. Близость суммы значений зависимой переменной и суммы восстановленных значений - практический критерий правильности расчетов.

В последнем девятом столбце табл.9.2 приведены квадраты значений из восьмого столбца. Их сумма - это остаточная сумма квадратов $$SS = 13,64$$. В соответствии со сказанным выше оценками дисперсии погрешностей и их среднего квадратического отклонения являются$$(\sigma^2)^*=\frac{SS}{n}=\frac{13,64}{6}=2,27;\quad \sigma^*=\sqrt{\frac{SS}{n}}=\sqrt{\frac{13,64}{6}}=1,51.$$

Рассмотрим распределения оценок параметров. Оценка $$b^*$$ имеет асимптотически нормальное распределение с математическим ожиданием $$b$$ и дисперсией, которая оценивается как 2,27/6=0,38 (здесь считаем, что 6 - "достаточно большое" число, что, конечно, можно оспаривать). Оценкой среднего квадратического отклонения является 0,615. Следовательно, при доверительной вероятности 0,95 доверительный интервал для параметра $$b$$ имеет вид $$(26,83 - 1,96\cdot 0,615; 26,83 + 1,96\cdot 0,615) = (25,625; 28,035)$$.

В формулах для дисперсий участвует величина$$\sum_{i=1}^n (t_i-t_{cp})^2= \sum_{i=1}^n (t_i^2-2t_i t_{cp}+t_{cp}^2)= \sum_{i=1}^n t_i^2 -2t_{cp}\sum_{i=1}^n t_i+nt_{cp}^2= \sum_{i=1}^n t_i^2 -nt_{cp}^2.$$

Подставив численные значения, получаем, что$$\sum_{i=1}^n t_i^2-nt_{cp}^2=256-6(5,67)^2=63,1.$$

Дисперсия для оценки $$a^*$$ коэффициента при линейном члене прогностической функции оценивается как 2,27/63,1=0,036, а среднее квадратическое отклонение - как 0,19. Следовательно, при доверительной вероятности 0,95 доверительный интервал для параметра $$a$$ имеет вид $$(3,14 - 1,96\cdot 0,19; 3,14 + 1,96\cdot 0,19) = (2,77; 3,51)$$.

Прогностическая формула с учетом погрешности имеет вид (при доверительной вероятности 0,95)$$x^*(t)=3,14t+9,03\pm 1,96\times 1,51\sqrt{\frac16 + \frac{(t-5,67)^2}{63,1}}.$$

В этой записи сохранено происхождение различных составляющих. Упростим:$$x^*(t)=3,14t+9,03\pm 2,96 \sqrt{\frac16 + \frac{(t-5,67)^2}{63,1}}.$$

Например, при $$t = 12$$ эта формула дает$$x^*(12)=46,71\pm 2,65.$$

Следовательно, нижняя доверительная граница - это 44,06, а верхняя доверительная граница - это 49,36.

Насколько далеко можно прогнозировать? Обычный ответ таков - до тех пор, пока сохраняется тот стабильный комплекс условий, при котором справедлива рассматриваемая зависимость. Изобретатель метода наименьших квадратов Карл Гаусс исходил из задачи восстановления орбиты астероида (малой планеты) Церера. Движение подобных небесных тел может быть рассчитано на сотни лет. А вот параметры комет (например, срок возвращения) не поддаются столь точному расчету, поскольку за время пребывания в окрестности Солнца сильно меняется масса кометы. В социально-экономической области горизонты надежного прогнозирования еще менее определены. В частности, они сильно зависят от решений центральной власти.

Чтобы выявить роль погрешностей в прогностической формуле, рассмотрим формальный предельный переход $$t\rightarrow\infty$$. Тогда слагаемые 9,03; 1/6; 5,67 становятся бесконечно малыми, и$$x^*(t)\approx 3,14t\pm\frac{2,96}{\sqrt{63,1}}t=(3,14\pm 0,37)t.$$

Таким образом, погрешности составляют около$$\frac{100\times 0,37}{3,14}\%=11,8\%$$ от тренда (математического ожидания) прогностической функции. В социально-экономических исследованиях подобные погрешности считаются вполне приемлемыми.

9.3. Основы линейного регрессионного анализа

Метод наименьших квадратов, рассмотренный в простейшем случае, допускает различные обобщения. Например, метод наименьших квадратов дает алгоритм расчетов, если исходные данные - по-прежнему набор $$n$$ пар чисел $$(t_k , x_k), k = 1,2,...,n$$, где $$t_k$$ - независимая переменная (например, время), а $$x_k$$ - зависимая (например, индекс инфляции), а восстанавливать надо не линейную зависимость, а квадратическую:$$x(t)=at^2+bt+c.$$

Следует рассмотреть функцию трех переменных$$f(a,b,c)=\sum_{k=1}^n(x_k-at_k^2-bt_k-c)^2.$$

Оценки метода наименьших квадратов - это такие значения параметров $$a^*, b^*$$ и $$c^*$$, при которых функция $$f(a,b,c)$$ достигает минимума по всем значениям аргументов. Чтобы найти эти оценки, надо вычислить частные производные от функции $$f(a,b,c)$$ по аргументам $$a, b$$ и $$c$$, приравнять их 0, затем из полученных уравнений найти оценки. Имеем:$$\frac{\partial f(a,b,c)}{\partial a}= \sum_{k=1}^n\frac{\partial}{\partial a}(x_k-at_k^2-bt_k-c)^2= \sum_{k=1}^n 2(x_k-at_k^2-bt_k-c)(-t_k^2).$$

Приравнивая частную производную к 0, получаем линейное уравнение относительно трех неизвестных параметров $$a,b,c$$:$$a\sum_{k=1}^n t_k^4+b\sum_{k=1}^n t_k^3+c\sum_{k=1}^n t_k^2=\sum_{k=1}^n t_k^2 x_k.$$

Приравнивая частную производную по параметру $$b$$ к 0, аналогичным образом получаем уравнение$$a\sum_{k=1}^n t_k^3+b\sum_{k=1}^n t_k^2+c\sum_{k=1}^n t_k=\sum_{k=1}^n t_k x_k.$$

Наконец, приравнивая частную производную по параметру $$c$$ к 0, получаем уравнение$$a\sum_{k=1}^n t_k^2+b\sum_{k=1}^n t_k+cn=\sum_{k=1}^n x_k.$$

Решая систему трех уравнений с тремя неизвестными, находим оценки метода наименьших квадратов.

Другие задачи, рассмотренные в предыдущем параграфе (доверительные границы для параметров и прогностической функции и др.), также могут быть решены. Соответствующие алгоритмы более громоздки. Для их записи полезен аппарат матричной алгебры (см., например, одну из лучших в этой области монографий []). Для реальных расчетов используют соответствующие компьютерные программы.

Раздел прикладной статистики, посвященный восстановлению зависимостей, называется регрессионным анализом. Термин "линейный регрессионный анализ" используют, когда рассматриваемая функция линейно зависит от оцениваемых параметров (от независимых переменных зависимость может быть произвольной). Теория оценивания неизвестных параметров хорошо развита именно в случае линейного регрессионного анализа. Если же линейности нет и нельзя перейти к линейной задаче, то, как правило, хороших свойств от оценок ожидать не приходится.

Продемонстрируем подходы в случае зависимостей различного вида. Если зависимость имеет вид многочлена (полинома)$$x(t)=a_0+a_1t+a_2t^2+a_3t^3+...+a_mt^m,$$ то коэффициенты многочлена могут быть найдены путем минимизации функции$$f(a_0,a_1,a_2,a_3,...,a_m)=\sum_{k=1}^n(x_k-a_0-a_1t_k-a_2t_k^2-a_3t_k^3-...-a_mt_k^m)^2.$$

Функция от $$t$$ не обязательно должна быть многочленом. Можно, например, добавить периодическую составляющую, соответствующую сезонным колебаниям. Хорошо известно, например, что инфляция (рост потребительских цен) имеет четко выраженный годовой цикл. А именно, в среднем цены быстрее всего растут зимой, в декабре - январе, а медленнее всего (иногда в среднем даже падают) летом, в июле - августе. Пусть для определенности$$x(t)=a_0+a_1t+a_2t^2+a_3t^3+...+a_mt^m+A\sin 2\pi t,$$ тогда неизвестные параметры могут быть найдены путем минимизации функции$$f(a_0,a_1,a_2,a_3,...,a_m)=\sum_{k=1}^n(x_k-a_0-a_1t_k-a_2t_k^2-a_3t_k^3-...-a_mt_k^m -A\sin 2\pi t_k)^2.$$

Пусть $$I(t)$$ - индекс инфляции в момент $$t$$. Принцип стабильности условий приводит к гипотезе о постоянстве темпов роста средних цен, т.е. индекса инфляции. Таким образом, естественная модель для индекса инфляции - это$$I(t)=Ae^{Bt}.$$

Эта модель не является линейной, метод наименьших квадратов непосредственно применять нельзя. Однако если прологарифмировать обе части предыдущего равенства:$$\ln I(t)=\ln A+Bt,$$ то получим линейную зависимость, рассмотренную выше.

Независимых переменных может быть не одна, а несколько. Пусть, например, по исходным данным $$(x_k,y_k,z_k),k=1,2,...,n$$ требуется оценить неизвестные параметры $$a$$ и $$b$$ в зависимости $$z=ax+by+\varepsilon$$, где $$\varepsilon$$ - погрешность. Это можно сделать, минимизируя функцию$$f(a,b)=\sum_{k=1}^n(z_k-ax_k-by_k)^2.$$

Зависимость от $$x$$ и $$y$$ не обязательно должна быть линейной. Предположим, что из каких-то соображений известно, что зависимость должна иметь вид$$z=ax+by+cx^2y+dxy+ey^3+\varepsilon,$$ тогда для оценки пяти параметров необходимо минимизировать функцию$$f(a,b,c,d,e)=\sum_{k=1}^n(z_k-ax_k-by_k-cx_k^2y_k-dx_ky_k-ey_k^3)^2.$$

Более подробно рассмотрим пример из микроэкономики. В одной из оптимизационных моделей поведения фирмы используется так называемая производственная функция $$f(K,L)$$, задающая объем выпуска в зависимости от затрат капитала $$K$$ и труда $$L$$. В качестве конкретного вида производственной функции часто используется так называемая функция Кобба-Дугласа$$f(K,L)=K^{\alpha}L^{\beta}.$$

Однако откуда взять значения параметров $$\alpha$$ и $$\beta$$? Естественно предположить, что они - одни и те же для предприятий отрасли. Поэтому целесообразно собрать информацию $$(f_k,K_k,L_k), k=1,2,...,n$$, где $$f_k$$ - объем выпуска на $$k$$ -ом предприятии, $$K_k$$ - объем затрат капитала на $$k$$ -ом предприятии, $$L_k$$ - объем затрат труда на $$k$$ -ом предприятии (в кратком изложении не пытаемся дать точных определений используемым понятиям из экономики предприятия). По собранной информации естественно попытаться оценить параметры $$\alpha$$ и $$\beta$$. Но они входят в зависимость нелинейно, поэтому сразу применить метод наименьших квадратов нельзя. Помогает логарифмирование: $$\ln f(K,L)=\alpha\ln K+\beta\ln L$$.

Следовательно, целесообразно сделать замену переменных$$x_k=\ln K_k,y_k=\ln L_k,z_k=\ln f_k, k=1,2,3,...,n,$$ а затем находить оценки параметров $$\alpha$$ и $$\beta$$, минимизируя функцию$$g(\alpha,\beta)=\sum_{k=1}^n(z_k-\alpha x_k -\beta y_k)^2.$$

Найдем частные производные:$$\begin{gathered} \frac{\partial g(\alpha,\beta)}{\partial \alpha}=\sum_{k=1}^n 2(z_k-\alpha x_k -\beta y_k)(-x_k), \\ \frac{\partial g(\alpha,\beta)}{\partial \beta} =\sum_{k=1}^n 2(z_k-\alpha x_k -\beta y_k)(-y_k). \end{gathered}$$

Приравняем частные производные к 0, сократим на 2, раскроем скобки, перенесем свободные члены вправо. Получим систему двух линейных уравнений с двумя неизвестными:$$\begin{gathered} \alpha\sum_{k=1}^n x_k^2+\beta\sum_{k=1}^n x_ky_k=\sum_{k=1}^n x_kz_k, \\ \alpha\sum_{k=1}^n x_ky_k+\beta\sum_{k=1}^n y_k^2 = \sum_{k=1}^n y_kz_k. \end{gathered}$$

Таким образом, для вычисления оценок метода наименьших квадратов необходимо найти пять сумм$$\sum_{k=1}^n x_k^2, \sum_{k=1}^n x_ky_k, \sum_{k=1}^n y_k^2, \sum_{k=1}^n x_kz_k, \sum_{k=1}^n y_kz_k.$$

Для упорядочения расчета этих сумм может быть использована таблица, аналогичная той, что применялась выше. Отметим, что рассмотренная в предыдущем параграфе постановка переходит в разбираемую сейчас при $$y_k = 1, k = 1, 2, ..., n$$.

Подходящая замена переменных во многих случаях позволяет перейти к линейной зависимости. Например, если$$y=\frac{1}{a+bx},$$ то замена $$z=1/y$$ приводит к линейной зависимости $$z = a + bx$$. Если $$y=(a+bx)^2$$, то замена $$z=\sqrt{y}$$ приводит к линейной зависимости $$z = a + bx$$.

Основной показатель качества регрессионной модели. Одни и те же данные можно обрабатывать различными способами. На первый взгляд, показателем отклонений данных от модели может служить остаточная сумма квадратов $$SS$$. Чем этот показатель меньше, тем приближение лучше, значит, и модель лучше описывает реальные данные. Однако это рассуждение годится только для моделей с одинаковым числом параметров. Ведь если добавляется новый параметр, по которому можно минимизировать, то и минимум, как правило, оказывается меньше.

В качестве основного показателя качества регрессионной модели используют оценку остаточной дисперсии$$\widehat{\sigma}^2(m)=\frac{SS}{n-m},$$ скорректированную на число $$m$$ параметров, оцениваемых по наблюдаемым данным. В случае задачи восстановления линейной функции одной переменной, рассмотренной в предыдущем подразделе, оценка остаточной дисперсии имеет вид$$\widehat{\sigma}^2(m)=\frac{SS}{n-2},$$ поскольку число оцениваемых параметров $$m=2$$.

Почему эта формула отличается от приведенной в предыдущем параграфе? Там в знаменателе $$n$$, а здесь - $$(n-2)$$. Дело в том, что там была рассмотрена непараметрическая теория при большом объеме данных (при $$n\rightarrow\infty$$ ). А при безграничном возрастании $$n$$ разница между $$n$$ и $$(n-2)$$ сходит на нет.

Однако при подборе вида модели знаменатель дроби, оценивающей остаточную дисперсию, приходится корректировать на число параметров. Если этого не делать, то придется заключить, что всегда многочлен второй степени лучше соответствует данным, чем линейная функция, многочлен третьей степени лучше приближает исходные данные, чем многочлен второй степени, и т.д. В конце концов доходим до многочлена степени $$(n-1)$$ с $$n$$ коэффициентами, который проходит через все заданные точки. Но его прогностические возможности, скорее всего, существенно меньше, чем у линейной функции. Излишнее усложнение статистических моделей вредно.

Типовое поведение скорректированной оценки остаточной дисперсии $$\nu(m)=\widehat{\sigma}^2(m)$$ в зависимости от параметра $$m$$ в случае расширяющейся системы моделей выглядит так. Сначала наблюдаем заметное убывание. Затем оценка остаточной дисперсии колеблется около некоторой константы (теоретического значения дисперсии погрешности).

Поясним ситуацию на примере модели восстановления зависимости, выраженной многочленом:$$x(t)=a_0+a_1t+a_2t^2+a_3t^3+...+a_mT^m.$$

Пусть эта модель справедлива при $$m=m_0$$. При $$m<m_0$$ в скорректированной оценке остаточной дисперсии учитываются не только погрешности измерений, но и соответствующие (старшие) члены многочлена (предполагаем, что коэффициенты при них отличны от 0). При $$m\ge m_0$$ имеем$$\lim_{n\rightarrow\infty}\nu(m)=\sigma^2.$$

Следовательно, скорректированная оценка остаточной дисперсии будет колебаться около указанного предела. Поэтому в качестве оценки неизвестной статистику степени многочлена (полинома) можно использовать первый локальный минимум скорректированной оценки остаточной дисперсии, т.е.$$m^*=\min\{m:\nu(m-1)>\nu(m),\;\nu(m)\le\nu(m+1)\}.$$

В работе [] найдено предельное распределение этой оценки степени многочлена.

Теорема. При справедливости некоторых условий регулярности$$\lim_{n\rightarrow\infty}P(m^*<m_0)=0,\; \lim_{n\rightarrow\infty}P(m^*=m_0+u)=\lambda(1-\lambda)^u,\; u=0,1,2,...,$$ где$$\lambda=\Phi(1)-|phi(-1)=\frac{1}{\sqrt{2\pi}} \int\limits_{-1}^1\exp\left\{-\frac{x^2}{2}\right\}dx\approx 0,68268.$$

Таким образом, предельное распределение оценки $$m^*$$ степени многочлена (полинома) является геометрическим. Это означает, в частности, что оценка не является состоятельной. При этом вероятность получить меньшее значение, чем истинное, исчезающе мала. Далее имеем:$$\begin{gathered} P(m^*=m_0)\rightarrow 0,68268,\; P(m^*=m_0+1)\rightarrow 0,68268(1-0,68268)=0,21663, \\ P(m^*=m_0+2)\rightarrow 0,68268(1-0,68268)^2=0,068744, \\ P(m^*=m_0+3)\rightarrow 0,68268(1-0,68268)^3=0,021814... \end{gathered}$$

Разработаны и иные методы оценивания неизвестной степени многочлена, например, путем многократного применения процедуры проверки адекватности регрессионной зависимости с помощью статистики Фишера (см. []). Предельное поведение оценок - такое же, как в приведенной выше теореме, только значение параметра $$\lambda$$ иное.

Пример практического использования линейного регрессионного анализа. Руководитель маркетинговой службы новгородского завода ГАРО А.А. Пивень применил его для построения математической модели рынка легковых подъемников. Требовалось выявить факторы (показатели), оказывающие наибольшее влияние на объем продаж подъемников, найти зависимость объема продаж от этих факторов и использовать эту зависимость для прогнозирования объема продаж.

Зависимая переменная - объем продаж $$V$$, независимые переменные:

Для восстановления зависимости использовалась линейная регрессионная модель. По результатам пошагового анализа из рассмотрения последовательно исключались независимые переменные (параметры подъемника), имеющие (в линейной модели) коэффициенты, незначимо отличающиеся от 0, иными словами, мало отличающиеся от 0 в сравнении с их дисперсией. Для этого использовался пакет STATISTICA 6.0, конкретно модуль "Множественная регрессия" ( Multiple regression ).

В результате расчетов была получена зависимость объема продаж подъемника П3-Т от 12 факторов:$$\begin{gathered} v=-1769,77-65,09X1-0,03X2+68,79X3+147,54X4+\\ +156,28X5+2,53X7+1,06X8+25,75X12-\\ -132,26X13-12,41X14+107,78X15+397X16. \end{gathered}$$

Влияние остальных пяти факторов оказалось незначимым.

Исходя из расчетов, прогнозное значение продаж подъемников на второй год продаж составит ориентировочно 1010 шт. С вероятностью 95% можно утверждать, что объем продаж будет лежать в границах [695, 1332] шт.

Рассмотрим общее понятие регрессии как условного математического ожидания. Пусть случайный вектор $$(x(\omega),y(\omega))$$ имеет плотность $$p(x,y)$$. Как известно из любого курса теории вероятностей, плотность условного распределения $$y(\omega)$$ при условии $$x(\omega)=x_0$$ имеет вид$$p(y|x)=p(y|x{\omega}=x_0)=\frac{p(x,y)}{\int\limits_{-\infty}^{\infty}p(x,y)dy}.$$

Условное математическое ожидание, т.е. регрессионная зависимость $$y$$ от $$x$$, имеет вид$$f(x)=\int_{-\infty}^{\infty}yp(x|y)dy= \frac{\int\limits_{-\infty}^{\infty}yp(x,y)dy}{\int\limits_{-\infty}^{\infty}p(x,y)dy}.$$

Таким образом, для нахождения оценок регрессионной зависимости достаточно найти оценки совместной плотности распределения вероятности $$p_n(x, y)$$ такие, что$$p_n(x,y)\rightarrow p(x,y)$$ при $$n\rightarrow\infty$$. Тогда непараметрическая оценка регрессионной зависимости$$f_n(x)= \frac{\int\limits_{-\infty}^{\infty}yp_n(x,y)dy}{\int\limits_{-\infty}^{\infty}p_n(x,y)dy}$$ при $$n\rightarrow\infty$$ является состоятельной оценкой регрессии как условного математического ожидания:$$f_n(x)\rightarrow f(x).$$

Общий подход к построению непараметрических оценок плотности распределения вероятностей рассмотрен в лекции 5.

Регрессионному анализу (т.е. методам восстановления зависимостей) посвящено большое количество литературы. Он хорошо представлен в программных продуктах по анализу данных, особенно та его часть, которая связана с методом наименьших квадратов. Обзор современных методов и моделей дан в учебнике [].

9.4. Основы теории классификации

При внедрении современных статистических методов в практику фундаментальных и прикладных научно-технических, социально-экономических, медицинских и иных исследований, при разработке соответствующих программных продуктов невозможно обойтись без классификации самих этих методов. Естественно исходить из вида обрабатываемых данных. В соответствии с современными воззрениями делим прикладную статистику на четыре области: - статистика случайных величин (одномерная статистика); многомерный статистический анализ; статистика временных рядов и случайных величин; статистика объектов нечисловой природы. В первой области элемент выборки - число, во второй - вектор, в третьей - функция, в четвертой - объект нечисловой природы.

Как известно, математический аппарат статистики объектов нечисловой природы базируется на использовании расстояний (мер близости, показателей различия) в пространствах таких объектов. Это вызвано отсутствием в таких пространствах операций суммирования, на которых основано большинство методов других областей статистики. Любые методы, использующие только расстояния (меры близости, показатели различия) между объектами, следует относить к статистике объектов нечисловой природы, поскольку такие методы могут работать с объектами произвольного пространства, если в нем задана метрика или ее аналоги. Таким образом, весьма многие методы прикладной статистики следует включать в статистику объектов нечисловой природы.

В настоящем параграфе рассматривается важное направление прикладной статистики - математические методы классификации. Значительную их часть следовало бы отнести к статистике объектов нечисловой природы, а именно, методы классификации, основанные на расстояниях между объектами. Однако исторически теория классификации рассматривается в основном в рамках многомерного статистического анализа, поскольку многие ее методы используют специфику конечномерного евклидова пространства.

Основные направления в математической теории классификации. Какие научные исследования относить к этой теории? Исходя из потребностей специалиста, применяющего математические методы классификации, целесообразно принять, что сюда входят исследования, во-первых, отнесенные самими авторами к этой теории; во вторых, связанные с ней общностью тематики, хотя бы их авторы и не упоминали термин "классификация". Это предполагает ее сложную внутреннюю структуру.

В литературных источниках наряду с "классификацией" используются близкие по смыслу термины: "группировка", "распознавание образов", "диагностика", "дискриминация", "сортировка" и др. Терминологический разнобой связан прежде всего с традициями научных кланов, к которым относятся авторы публикаций, а также с внутренним делением самой теории классификации.

В научных исследованиях по современной теории классификации можно выделить два относительно самостоятельных направления. Одно из них опирается на опыт таких наук, как биология, география, геология, и таких прикладных областей, как ведение классификаторов продукции и библиотечное дело. Типичные объекты рассмотрения - классификация химических элементов (таблица Д.И. Менделеева), биологическая систематика, универсальная десятичная классификация публикаций (УДК), классификатор товаров на основе штрих-кодов.

Другое направление опирается на опыт технических исследований, экономики, маркетинговых исследований, социологии, медицины. Типичные задачи - техническая и медицинская диагностика, а также, например, разбиение на группы отраслей промышленности, тесно связанных между собой, выделение групп однородной продукции. Обычно используются такие термины, как "распознавание образов" или "дискриминантный анализ". Это направление обычно опирается на математические модели; для проведения расчетов интенсивно используется ЭВМ. Однако относить его к математике столь же нецелесообразно, как астрономию или квантовую механику. Рассматриваемые математические модели можно и нужно изучать на формальном уровне, и такие исследования проводятся. Но направление в целом сконцентрировано на решении конкретных задач прикладных областей и вносит вклад в технические или экономические науки, медицину, социологию, но, как правило, не в математику. Использование математических методов как инструмента исследования нельзя относить к чистой математике.

В 60-х годах XX века внутри прикладной статистики достаточно четко оформилась область, посвященная методам классификации. Несколько модифицируя формулировки М. Дж. Кендалла и А. Стьюарта 1966 г. (см. русский перевод [, с.437]), в теории классификации выделим три подобласти: дискриминация (дискриминантный анализ), кластеризация (кластер-анализ), группировка. Опишем эти подобласти.

В дискриминантном анализе классы предполагаются заданными - плотностями вероятностей или обучающими выборками. Задача состоит в том, чтобы вновь поступающий объект отнести в один из этих классов. У понятия "дискриминация" имеется много синонимов: диагностика, распознавание образов с учителем, автоматическая классификация с учителем, статистическая классификация и т.д.

При кластеризации и группировке целью является выявление и выделение классов. Синонимы: построение классификации, распознавание образов без учителя, автоматическая классификация без учителя, типология, таксономия и др. Задача кластер-анализа состоит в выяснении по эмпирическим данным, насколько элементы "группируются" или распадаются на изолированные "скопления", "кластеры" (от англ. cluster - гроздь, скопление). Иными словами, - выявление естественного разбиения на классы, свободного от субъективизма исследователя, а цель - выделение групп однородных объектов, сходных между собой, при резком отличии этих групп друг от друга.

При группировке, наоборот, "мы хотим разбить элементы на группы независимо от того, естественны ли границы разбиения или нет" [, с.437]. Цель по-прежнему состоит в выявлении групп однородных объектов, сходных между собой (как в кластер-анализе), однако "соседние" группы могут не иметь резких различий (в отличие от кластер-анализа). Границы между группами условны, не являются естественными, зависят от субъективизма исследователя. Аналогично при лесоустройстве проведение просек (границ участков) зависит от специалистов лесного ведомства, а не от свойств леса.

Задачи кластеризации и группировки принципиально различны, хотя для их решения могут применяться одни и те же алгоритмы. Важная для практической деятельности проблема состоит в том, чтобы понять, разрешима ли задача кластер-анализа для конкретных данных или возможна только их группировка, поскольку совокупность объектов достаточно однородна и не разбивается на резко разделяющиеся между собой кластеры.

Как правило, в математических задачах кластеризации и группировки основное - выбор метрики, расстояния между объектами, меры близости, сходства, различия. Хорошо известно, что для любого заданного разбиения объектов на группы и любого $$\varepsilon>0$$ можно указать метрику такую, что расстояния между объектами из одной группы будут меньше $$\varepsilon$$, а между объектами из разных групп - больше $$1/\varepsilon$$. Тогда любой разумный алгоритм кластеризации, использующий эту метрику, даст именно заданное разбиение.

Понимание и обсуждение постановок задач осложняется использованием одного и того же термина в разных смыслах. Термином "классификация" (и термином "диагностика") обозначают, по крайней мере, три разные вещи: процедуру построения классификации (и выделение классов, используемых при диагностике), построенную классификацию (систему выделенных классов) и процедуру ее использования (правила отнесения вновь поступающего объекта к одному из ранее выделенных классов). Другими словами, имеем естественную триаду: построение - изучение - использование классификации.

Как уже отмечалось, для построения системы диагностических классов используют разнообразные методы кластерного анализа и группировки объектов. Наименее известен второй член триады (отсутствующий у Кендалла и Стьюарта []) - изучение отношений эквивалентности, полученных в результате построения системы диагностических классов. Статистический анализ полученных, в частности экспертами, отношений эквивалентности - часть статистики бинарных отношений и тем самым - статистики объектов нечисловой природы (см. лекцию 11).

Диагностика в узком смысле слова (процедура использования классификации, т.е. отнесения вновь поступающего объекта к одному из выделенных ранее классов) - предмет дискриминантного анализа. Отметим, что с точки зрения статистики объектов нечисловой природы дискриминантный анализ является частным случаем общей схемы регрессионного анализа, соответствующим ситуации, когда зависимая переменная принимает конечное число значений, а именно - номера классов, а вместо квадрата разности стоит функция потерь от неправильной классификации. Однако есть ряд специфических постановок, выделяющих задачи диагностики среди всех регрессионных задач.

О построении диагностических правил. Начнем с краткого обсуждения одного распространенного заблуждения. Иногда рекомендуют сначала построить систему диагностических классов, а потом в каждом диагностическом классе отдельно проводить регрессионный анализ (в классическом смысле) или применять иные методы многомерного статистического анализа. Однако обычно забывают, что при этом нельзя опираться на вероятностную модель многомерного нормального распределения, так как распределение результатов наблюдений, попавших в определенный кластер, будет отнюдь не нормальным, а усеченным нормальным (усечение определяется границами кластера).

Процедуры построения диагностических правил делятся на вероятностные и детерминированные. К первым относятся так называемые задачи расщепления смесей. В них предполагается, что распределение вновь поступающего случайного элемента является смесью вероятностных законов, соответствующих диагностическим классам. Как и при выборе степени полинома в регрессии (см. 9.3), при анализе реальных социально-экономических данных встает вопрос об оценке числа элементов смеси, т.е. числа диагностических классов. Были изучены результаты применения обычно рекомендуемого критерия Уилкса для оценки числа элементов смеси. Оказалось (см. статью []), что оценка с помощью критерия Уилкса не является состоятельной, асимптотическое распределение этой оценки - геометрическое, как и в случае задачи восстановления зависимости в регрессионном анализе. Итак, продемонстрирована несостоятельность обычно используемых оценок. Для получения состоятельных оценок достаточно связать уровень значимости в критерии Уилкса с объемом выборки, как это было предложено и для задач регрессии [].

Как уже отмечалось, задачи построения системы диагностических классов целесообразно разбить на два типа: с четко разделенными кластерами (задачи кластер-анализа) и с условными границами, непрерывно переходящими друг в друга классами (задачи группировки). Такое деление полезно, хотя в обоих случаях могут применяться одинаковые алгоритмы. Сколько же существует алгоритмов построения системы диагностических правил? Иногда называют то или иное число. На самом же деле их бесконечно много, в чем нетрудно убедиться.

Действительно, рассмотрим один определенный алгоритм - алгоритм средней связи. Он основан на использовании некоторой меры близости $$d(x,y)$$ между объектами $$x$$ и $$y$$. Как он работает? На первом шаге каждый объект рассматривается как отдельный кластер. На каждом следующем шаге объединяются два ближайших кластера. Расстояние между объектами рассчитывается как средняя связь (отсюда и название алгоритма), т.е. как среднее арифметическое расстояний между парами объектов, один из которых входит в первый кластер, а другой - во второй. В конце концов все объекты объединяются вместе, и результат работы алгоритма представляет собой дерево последовательных объединений (в терминах теории графов), или "Дендрограмму". Из нее можно выделить кластеры разными способами. Один подход - исходя из заданного числа кластеров. Другой - из соображений предметной области. Третий - исходя из устойчивости (если разбиение долго не менялось при возрастании порога объединения - значит, оно отражает реальность). И т.д.

К алгоритму средней связи естественно сразу добавить алгоритм ближайшего соседа (когда расстоянием между кластерами называется минимальное из расстояний между парами объектов, один из которых входит в первый кластер, а другой - во второй). А также и алгоритм дальнего соседа (когда расстоянием между кластерами называется максимальное из расстояний между парами объектов, один из которых входит в первый кластер, а другой - во второй).

Алгоритм средней связи, как легко проверить, порождает бесконечное (континуальное) семейство алгоритмов кластер-анализа. Дело в том, что величина $$d^a(x,y), a>0$$, также является мерой близости между $$x$$ и $$y$$ и порождает новый алгоритм. Если параметр $$a$$ пробегает отрезок, то получается бесконечно много алгоритмов классификации.

Каким из них пользоваться при обработке данных? Дело осложняется тем, что практически в любом пространстве данных мер близости различных видов существует весьма много. Именно в связи с обсуждаемой проблемой следует указать на принципиальное различие между кластер-анализом и задачами группировки.

Если классы реальны, естественны, существуют на самом деле, четко отделены друг от друга, то любой алгоритм кластер-анализа их выделит. Следовательно, в качестве критерия естественности классификации следует рассматривать ее устойчивость относительно выбора алгоритма кластер-анализа.

Проверить устойчивость можно, применив к данным несколько подходов, например, столь непохожие алгоритмы, как "ближнего соседа" и "дальнего соседа". Если полученные результаты содержательно близки, то они адекватны действительности. В противном случае следует предположить, что естественной классификации не существует, задача кластер-анализа не имеет решения, и можно проводить только группировку.

Как уже отмечалось, часто применяется так называемый агломеративный иерархический алгоритм "Дендрограмма", в котором вначале все элементы рассматриваются как отдельные кластеры, а затем на каждом шагу объединяются два наиболее близких кластера. Для работы "Дендрограммы" необходимо задать правило вычисления расстояния между кластерами. Оно вычисляется через расстояние $$d(x,y)$$ между элементами $$x$$ и $$y$$. Поскольку $$d^a(x,y)$$ при $$0<a<1$$ также расстояние, то, как правило, существует бесконечно много различных вариантов этого алгоритма. Представим себе, что они применяются для обработки одних и тех же реальных данных. Если при всех $$a$$ получается одинаковое разбиение элементов на кластеры, т.е. результат работы алгоритма устойчив по отношению к изменению $$a$$ (в смысле общей схемы устойчивости, рассмотренной в лекции 4), то имеем "естественную" классификацию. В противном случае результат зависит от субъективно выбранного исследователем параметра $$a$$, т.е. задача кластер-анализа неразрешима (предполагаем, что выбор $$a$$ нельзя специально обосновать). Задача группировки в этой ситуации имеет много решений. Из них можно выбрать одно по дополнительным критериям.

Следовательно, получаем эвристический критерий: если решение задачи кластер-анализа существует, то оно находится с помощью любого алгоритма. Целесообразно использовать наиболее простой.

Проблема поиска естественной классификации. Существуют различные точки зрения на эту проблему. Естественная классификация обычно противопоставляется искусственной. На Всесоюзной школе-семинаре "Использование математических методов в задачах классификации" (г. Пущино, 1986 г.), в частности, были высказаны мнения, что естественная классификация:

Приведенные высказывания уже дают представление о больших расхождениях в понимании "естественной классификации". Этот термин следует признать нечетким, как, впрочем, и многие другие термины, и профессиональные - социально-экономические, научно-технические, и используемые в обыденном языке. Нетрудно подробно обосновать нечеткость естественного языка и тот факт, что "мы мыслим нечетко", что, однако, не слишком мешает нам решать производственные и жизненные проблемы. Кажущееся рациональным требование выработать сначала строгие определения, а потом развивать науку - невыполнимо. Следовать ему - значит отвлекать силы от реальных задач. При системном подходе к теории классификации становится ясно, что строгие определения можно надеяться получить на последних этапах построения теории. Мы же сейчас находимся чаще всего на первых этапах. Поэтому, не давая определения понятиям "естественная классификация" и "естественная диагностика", обсудим, как проверить на "естественность" классификацию (набор диагностических классов), полученную расчетным путем.

Можно выделить два критерия "естественности", по поводу которых имеется относительное согласие.

А. Естественная классификация должна быть реальной, соответствующей действительному миру, лишенной внесенного исследователем субъективизма.

Б. Естественная классификация должна быть важной или с научной точки зрения (давать возможность прогноза, предсказания новых свойств, сжатия информации и т.д.), или с практической.

Пусть классификация проводится на основе информации об объектах, представленной в виде матрицы "объект-признак" или матрицы попарных расстояний (мер близости). Пусть алгоритм классификации дал разбиение на кластеры. Как можно получить доводы в пользу естественности этой классификации? Например, уверенность в том, что она - закон природы, может появиться только в результате ее длительного изучения и практического применения. Это соображение относится и к другим из перечисленных выше критериев, в частности к Б (важности). Сосредоточимся на критерии А (реальности).

Понятие "реальности" кластера требует специального обсуждения (оно начато в работе []). Рассмотрим существо различий между понятиями "классификация" и "группировка". Пусть, к примеру, необходимо деревья, растущие в определенной местности, разбить на группы находящихся рядом друг с другом. Ясна интуитивная разница между несколькими отдельными рощами, далеко отстоящими друг от друга и разделенными полями, и сплошным лесом, разбитым просеками на квадраты с целью лесоустройства.

Однако формально определить эту разницу столь же сложно, как определить понятие "куча зерен", чем занимались еще в Древней Греции. Ясно, что одно зерно не составляет кучи, два зерна не составляют кучи,... Если к тому, что не составляет кучи, добавить еще одно зерно, то куча не получится. Значит - по принципу математической индукции - никакое количество зерен не составляет кучи. Но ясно, что миллиард зерен - большая куча зерен - подсчитайте объем!

Переформулируем сказанное в терминах "кластер-анализа" и "методов группировки". Выделенные с помощью первого подхода кластеры реальны, а потому могут рассматриваться как кандидаты в "естественные". Группировка дает "искусственные" классы, которые не могут быть "естественными".

Выборку из унимодального распределения можно, видимо, рассматривать как "естественный", "реальный" кластер. Применим к ней какой-либо алгоритм классификации ("средней связи", "ближайшего соседа" и т.п.). Он даст какое-то разбиение на классы, которые, разумеется, не являются "реальными", поскольку отражают прежде всего свойства алгоритма, а не исходных данных. Как отличить такую ситуацию от противоположной, когда имеются реальные кластеры и алгоритм классификации более или менее точно их выделяет? Как известно, "критерий истины - практика", но слишком много времени необходимо для применения подобного критерия. Поэтому представляет интерес критерий, оценивающий "реальность" выделяемых с помощью алгоритма классификации кластеров одновременно с применением этого алгоритма.

Такой показатель существует - это критерий устойчивости. Устойчивость - понятие широкое. Общая схема формулирования и изучения проблем устойчивости рассмотрена в лекции 4. В частности, поскольку значения признаков всегда измеряются с погрешностями, то "реальное" разбиение должно быть устойчиво (т.е. не меняться или меняться слабо) при малых отклонениях исходных данных. Алгоритмов классификации существует бесконечно много, и "реальное" разбиение должно быть устойчиво по отношению к переходу к другому алгоритму. Другими словами, если "реальное" разбиение на классы возможно, то оно находится с помощью любого алгоритма автоматической классификация. Следовательно, критерием естественности классификации может служить совпадение результатов работы двух достаточно различающихся алгоритмов, например "ближайшего соседа" и "дальнего соседа".

Выше рассмотрены два типа "глобальных" критериев "естественности классификации", касающихся разбиения в целом. "Локальные" критерии относятся к отдельным кластерам. Простейшая постановка такова: достаточно ли однородны два кластера (две совокупности) для их объединения? Если объединение возможно, то кластеры не являются "естественными". Преимущество этой постановки в том, что она допускает применение статистических критериев однородности двух выборок. В одномерном случае (классификация по одному признаку) разработано большое число подобных критериев - Крамера-Уэлча, Смирнова, омега-квадрат (Лемана-Розенблатта), Вилкоксона, Ван-дер-Вардена, Лорда, Стьюдента и др. (см. ]). Имеются критерии и для многомерных данных. Для одного из видов объектов нечисловой природы - люсианов - статистические методы выделения "реальных" кластеров описаны в работе [].

Что касается глобальных критериев, то для изучения устойчивости по отношению к малым отклонениям исходных данных естественно использовать метод статистических испытаний и проводить расчеты по "возмущенным" данным. Некоторые теоретические утверждения, касающиеся влияния "возмущений" на кластеры различных типов, получены в работе [].

Опишем практический опыт реализации анализа устойчивости. Несколько алгоритмов классификации были применены к данным, полученным при проведении маркетинга образовательных услуг и приведенным в работе []. Для анализа данных были использованы широко известные алгоритмы "ближайшего соседа", "дальнего соседа" и алгоритм кластер-анализа из работы []. С содержательной точки зрения полученные разбиения отличались мало. Поэтому есть основания считать, что с помощью этих алгоритмов действительно выявлена "реальная" структура данных.

Идея устойчивости как критерия "реальности" иногда реализуется неадекватно. Так, для однопараметрических алгоритмов иногда предлагают выделять разбиения, которым соответствуют наибольшие интервалы устойчивости по параметру, т.е. наибольшие приращения параметра между очередными объединениями кластеров. Для данных работы [] это предложение не дало полезных результатов - были получены различные разбиения: три алгоритма - три разбиения. И с теоретической точки зрения предложение этого специалиста несостоятельно. Покажем это.

Действительно, рассмотрим алгоритм "ближайшего соседа", использующий меру близости $$d(x,y)$$, и однопараметрическое семейство алгоритмов с мерой близости $$d^a(x,y), a>0$$, также являющихся алгоритмами "ближайшего соседа". Тогда дендрограммы, полученные с помощью этих алгоритмов, совпадают при всех $$a$$, поскольку при их реализации происходит лишь сравнение мер близости между объектами. Другими словами, дендрограмма, полученная с помощью алгоритма "ближайшего соседа", является адекватной в порядковой шкале (измерения меры близости $$d(x,y)$$ ), т.е. сохраняется при любом строго возрастающем преобразовании этой меры. Однако выделенные по обсуждаемому методу "устойчивые разбиения" меняются. В частности, при достаточно большом $$a$$ "наиболее объективным" в соответствии с рассматриваемым предложением будет, как нетрудно показать, разбиение на два кластера! Таким образом, разбиение, выдвинутое как "устойчивое", на самом деле оказывается весьма неустойчивым.

9.5. Статистические методы классификации

Рассмотрим с позиций прикладной статистики несколько конкретных вопросов теории классификации.

Вероятностная теория кластер-анализа. Как и для прочих статистических методов, свойства алгоритмов кластер-анализа необходимо изучать на вероятностных моделях. Это касается, например, условий естественного объединения двух кластеров.

Вероятностные постановки нужно применять, в частности, при перенесении результатов, полученных по выборке, на генеральную совокупность. Вероятностная теория кластер-анализа и методов группировки различна для исходных данных типа таблиц "объект x признак" и матриц сходства. Для первых параметрическая вероятностно-статистическая теория называется "расщеплением смесей". Непараметрическая теория основана на непараметрических оценках плотностей вероятностей и их мод. Основные результаты, связанные с непараметрическими оценками плотности, обсуждались в лекции 5.

Если исходные данные - матрица сходства $$||d(x,y)||$$, то необходимо признать, что развитой вероятностно-статистической теории пока нет. Подходы к ее построению намечены в работе []. Одна из основных проблем - проверка "реальности" кластера, его объективного существования независимо от расчетов исследователя. Проблема "реальности" кластера давно обсуждается специалистами различных областей. Типичное рассуждение таково. Предположим, что результаты наблюдений можно рассматривать как выборку из некоторого распределения с монотонно убывающей плотностью при увеличении расстояния от некоторого центра. Примененный к подобным данным какой-либо алгоритм кластер-анализа порождает некоторое разбиение. Ясно, что оно - чисто формальное, поскольку выделенным таксонам (кластерам) не соответствуют никакие "реальные" классы. Другими словами, задача кластер-анализа не имеет решения, а алгоритм дает лишь группировку. При обработке реальных данных мы не знаем вида плотности. Проблема состоит в том, чтобы определить, каков результат работы алгоритма (реальные кластеры или формальные группы).

Частный случай этой проблемы - проверка обоснованности объединения двух кластеров, которые мы рассматриваем как два множества объектов, а именно, множества $$\{a_1, a_2,..., a_k\}$$ и $$\{b_1, b_2,..., b_m\}$$. Пусть, например, используется алгоритм типа "Дендрограмма". Естественной представляется следующая идея. Пусть есть две совокупности мер близости. Одна - меры близости между объектами, лежащими внутри одного кластера, т.е. $$d(a_i,a_j), 1<i<j<k, d(b_{\alpha},b_{\beta}), 1\le\alpha<\beta\le m$$. Другая совокупность - меры близости между объектами, лежащими в разных кластерах, т.е. $$d(a_i,b_{\alpha}), 1\le i\le k, 1\le\alpha\le m$$. Эти две совокупности мер близости предлагается рассматривать как независимые выборки и проверять гипотезу о совпадении их функций распределения. Если гипотеза не отвергается, объединение кластеров считается обоснованным; в противном случае - объединять нельзя, алгоритм прекращает работу.

В рассматриваемом подходе имеются две некорректные постановки (см. также работу [, разд.4]). Во-первых, меры близости не являются независимыми случайными величинами. Во-вторых, не учитывается, что объединяются не заранее фиксированные кластеры (с детерминированным составом), а полученные в результате работы некоторого алгоритма, и их состав (в частности, количество элементов) оказывается случайным. От первой из этих некорректностей можно частично избавиться. Справедливо следующее утверждение.

Теорема 1. Пусть $$a_1, a_2,..., a_k, b_1, b_2,..., b_m$$ - независимые одинаково распределенные случайные величины (со значениями в произвольном пространстве). Пусть случайная величина $$d(a_1,a_2)$$ имеет все моменты. Тогда при $$k,m\rightarrow\infty$$ распределение статистики$$\frac{8\sqrt{3}U-3(k+m)(k+m-1)(k(k+1)+m(m+1))}{2(k+m)\sqrt{km(k^2+m^2)}}$$ (где $$U$$ - сумма рангов элементов первой выборки в объединенной выборке; первая выборка составлена из внутрикластерных расстояний (мер близости) $$d(a_i,a_j), 1\le i<j\le k$$, и $$d(b_{\alpha},b_{\beta}), 1\le\alpha<\beta\le m$$, а вторая - из межкластерных расстояний $$d(a_i,b_{\alpha}), 1\le i\le k, 1\le\alpha\le m$$ сходится к стандартному нормальному распределению с математическим ожиданием 0 и дисперсией 1.

На основе теоремы 1 очевидным образом формулируется правило проверки обоснованности объединения двух кластеров. Другими словами, мы проверяем статистическую гипотезу, согласно которой объединение двух кластеров образует однородную совокупность. Если величина $$U$$ слишком мала, статистическая гипотеза однородности отклоняется (на заданном уровне значимости), и возможность объединения отбрасывается. Таким образом, хотя расстояния между объектами в кластерах зависимы, но эта зависимость слаба, и доказана математическая теорема о допустимости применения критерия Вилкоксона для проверки возможности объединения кластеров.

О вычислительной сходимости алгоритмов кластер-анализа. Алгоритмы кластер-анализа и группировки зачастую являются итерационными. Например, формулируется правило улучшения решения задачи кластер-анализа шаг за шагом, но момент остановки вычислений не обсуждается. Примером является известный алгоритм "Форель", в котором постепенно улучшается положение центра кластера. В этом алгоритме на каждом шаге строится шар определенного заранее радиуса, выделяются элементы кластеризуемой совокупности, попадающие в этот шар, и новый центр кластера строится как центр тяжести выделенных элементов. При анализе алгоритма "Форель" возникает проблема: завершится ли процесс улучшения положения центра кластера через конечное число шагов или же он может быть бесконечным. Она получила название "проблема остановки". Для широкого класса так называемых "эталонных алгоритмов" проблема остановки была решена в работе []: процесс улучшения остановится через конечное число шагов.

Отметим, что алгоритмы кластер-анализа могут быть модифицированы разнообразными способами. Например, описывая алгоритм "Форель" в стиле статистики объектов нечисловой природы, заметим, что вычисление центра тяжести для совокупности многомерных точек - это нахождение эмпирического среднего для меры близости, равной квадрату евклидова расстояния. Если взять более естественную меру близости - само евклидово расстояние, то получим алгоритм кластер-анализа "Медиана", отличающийся от "Форели" тем, что новый центр строится не с помощью средних арифметических координат элементов, попавших в кластер, а с помощью медиан.

Проблема остановки возникает не только при построении диагностических классов. Она принципиально важна, в частности, и при оценивании параметров вероятностных распределений методом максимального правдоподобия. Обычно не представляет большого труда выписать систему уравнений максимального правдоподобия и предложить решать ее каким-либо численным методом. Однако когда остановиться, сколько итераций сделать, какая точность оценивания будет при этом достигнута? Общий ответ, видимо, невозможно найти, но обычно нет ответа и для конкретных семейств распределения вероятностей. Именно поэтому нет оснований рекомендовать решать системы уравнений максимального правдоподобия. Вместо них целесообразно использовать так называемые одношаговые оценки (подробнее см. об этих оценках лекция 6). Эти оценки задаются конечными формулами, но асимптотически столь же хороши (на профессиональном языке - эффективны), как и оценки максимального правдоподобия.

О сравнении алгоритмов диагностики по результатам обработки реальных данных. Перейдем к этапу применения диагностических правил, когда классы, к одному из которых нужно отнести вновь поступающий объект, уже выделены.

В прикладных исследованиях применяют различные методы дискриминантного анализа, основанные на вероятностно-статистических моделях, а также с ними не связанные, т.е. эвристические, использующие детерминированные методы анализа данных. Независимо от "происхождения", каждый подобный алгоритм должен быть исследован как на параметрических и непараметрических вероятностно-статистических моделях порождения данных, так и на различных массивах реальных данных. Цель исследования - выбор наилучшего алгоритма в определенной области применения, включение его в стандартные программные продукты, методические материалы, учебные программы и пособия. Но для этого надо уметь сравнивать алгоритмы по качеству. Как это делать?

Часто используют такой показатель качества алгоритма диагностики, как "вероятность правильной классификации" (при обработке конкретных данных - "частота правильной классификации"). Чуть ниже мы покажем, что этот показатель качества некорректен, а потому пользоваться им не рекомендуется. Целесообразно применять другой показатель качества алгоритма диагностики - оценку специального вида так называемого "расстояния Махаланобиса" между классами. Изложение проведем на примере разработки программного продукта для специалистов по диагностике материалов. Прообразом является диалоговая система "АРМ материаловеда", разработанная Институтом высоких статистических технологий и эконометрики для ВНИИ эластомерных материалов.

При построении информационно-исследовательской системы диагностики материалов (ИИСДМ) возникает задача сравнения прогностических правил "по силе". Прогностическое правило - это алгоритм, позволяющий по характеристикам материала прогнозировать его свойства. Если прогноз дихотомичен ("есть" или "нет"), то правило является алгоритмом диагностики, при котором материал относится к одному из двух классов. Ясно, что случай нескольких классов может быть сведен к конечной последовательности выборов между двумя классами.

Прогностические правила могут быть извлечены из научно-технической литературы и практики. Каждое из них обычно формулируется в терминах небольшого числа признаков, но наборы признаков сильно меняются от правила к правилу. Поскольку в ИИСДМ должно фиксироваться лишь ограниченное число признаков, то возникает проблема их отбора. Естественно отбирать лишь те из них, которые входят в наборы, дающие наиболее "надежные" прогнозы. Для придания точного смысла термину "надежный" необходимо знать способ сравнения алгоритмов диагностики по прогностической "силе".

Результаты обработки реальных данных с помощью некоторого алгоритма диагностики в рассматриваемом случае двух классов описываются долями: правильной диагностики в первом классе $$\kappa$$ ; правильной диагностики во втором классе $$\lambda$$ ; долями классов в объединенной совокупности $$\pi_i, i=1,2; \pi_1+\pi_2=1$$.

При изучении качества алгоритмов классификации их сравнивают по результатам дискриминации вновь поступающей контрольной выборки. Именно по контрольной выборке определяются величины $$\kappa,\lambda,\pi_1,\pi_2$$. Однако иногда вместо контрольной используют обучающую выборку, т.е. указанные величины определяются ретроспективно, в результате анализа уже имеющихся данных. Обычно это связано с трудоемкостью получения данных. Тогда $$\kappa$$ и $$\lambda$$ зависимы. Однако в случае, когда решающее правило основано на использовании дискриминантной поверхности, параметры которой оцениваются по обучающим выборкам, величины $$\kappa$$ и $$\lambda$$ асимптотически (при безграничном росте объемов выборок) независимы [], что позволяет использовать приводимые ниже результаты и в этом случае.

Нередко как показатель качества алгоритма диагностики (прогностической "силы") используют долю правильной диагностики$$\mu=\pi_1\kappa+\pi_2\lambda.$$

Однако показатель $$\mu$$ определяется, в частности, через характеристики $$\pi_1$$ и $$\pi_2$$ частично заданные исследователем (например, на них влияет тактика отбора образцов для изучения). В аналогичной медицинской задаче величина $$\mu$$ оказалась больше для тривиального прогноза, согласно которому у всех больных течение заболевания будет благоприятным. Тривиальный прогноз сравнивался с алгоритмом выделения больных с прогнозируемым тяжелым течением заболевания. Он был разработан группой под руководством академика АН СССР И.М. Гельфанда. Применение этого алгоритма с медицинской точки зрения вполне оправдано [].

Другими словами, по доле правильной классификации алгоритм академика И.М. Гельфанда оказался хуже тривиального - объявить всех больных легкими, не требующими специального наблюдения. Этот вывод очевидно нелеп. И причина появления нелепости вполне понятна. Хотя доля тяжелых больных невелика, но смертельные исходы сосредоточены именно в этой группе больных. Поэтому целесообразна гипердиагностика - рациональнее часть легких больных объявить тяжелыми, чем сделать ошибку в противоположную сторону. Применение теории статистических решений в рассматриваемой постановке вряд ли возможно, поскольку оценить количественно потери от смерти больного нельзя по этическим соображениям. Поэтому, на наш взгляд, долю правильной диагностики $$\mu$$ нецелесообразно использовать как показатель качества алгоритма диагностики.

Применение теории статистических решений требует знания потерь от ошибочной диагностики, а в большинстве научно-технических и экономических задач определить потери, как уже отмечалось, сложно. В частности, из-за необходимости оценивать человеческую жизнь в денежных единицах. По этическим соображениям это, на наш взгляд, недопустимо. Сказанное не означает отрицания пользы страхования, но, очевидно, страховые выплаты следует рассматривать лишь как способ первоначального смягчения потерь от утраты близких.

Для выявления информативного набора признаков целесообразно использовать метод пересчета на модель линейного дискриминантного анализа, согласно которому статистической оценкой прогностической "силы" является$$\delta^*=\Phi(d^*/2),\; d^*=\Phi^{-1}(\kappa)+\Phi^{-1}(\lambda),$$ где $$\Phi(x)$$ - функция стандартного нормального распределения вероятностей с математическим ожиданием 0 и дисперсией 1, а $$\Phi^{-1}(y)$$ - обратная ей функция.

Пример 1. Если доли правильной классификации $$\kappa = 0,90$$ и $$\lambda = 0,80$$, то $$\Phi^{-1}(\kappa) = 1,28$$ и $$\Phi^{-1}(\lambda) = 0,84$$, откуда $$d^* = 2,12$$ и прогностическая сила $$\delta^* = \Phi^{-1}(1,06) = 0,86$$. При этом доля правильной классификации $$\mu$$ может принимать любые значения между 0,80 и 0,90, в зависимости от доли элементов того или иного класса среди анализируемых данных.

Если классы описываются выборками из многомерных нормальных совокупностей с одинаковыми матрицами ковариаций, а для классификации применяется классический линейный дискриминантный анализ Р. Фишера, то величина $$d^*$$ представляет собой состоятельную статистическую оценку так называемого расстояния Махаланобиса между рассматриваемыми двумя совокупностями (конкретный вид этого расстояния сейчас не имеет значения), независимо от порогового значения, определяющего конкретное решающее правило. В общем случае показатель $$\delta^*$$ вводится как эвристический.

Пусть алгоритм классификации применялся к совокупности, состоящей из $$m$$ объектов первого класса и $$n$$ объектов второго класса.

Теорема 2. Пусть $$m, n\rightarrow\infty$$. Тогда для всех $$x$$$$P\left\{\frac{\delta^*-\delta}{A(\kappa,\lambda)<x}\right\}\rightarrow\Phi(x),$$ где $$\delta$$ - истинная "прогностическая сила" алгоритма диагностики; $$\delta^*$$ - ее эмпирическая оценка,$$A^2(\kappa,\lambda)=\frac14 \left\{ \left[\frac{\varphi(d^*/2)}{\varphi(\Phi^{-1}(\kappa))}\right]^2 \frac{\kappa(1-\kappa)}{m}+ \left[\frac{\varphi(d^*/2)}{\varphi(\Phi^{-1}(\lambda))}\right]^2 \frac{\lambda(1-\lambda)}{n} \right\};$$ $$\varphi(x)=\Phi'(x)$$ - плотность стандартного нормального распределения вероятностей с математическим ожиданием 0 и дисперсией 1.

С помощью теоремы 2 по $$\kappa$$ и $$\lambda$$ обычным образом определяют доверительные границы для "прогностической силы" $$\delta$$.

Пример 2. В условиях примера 1 при $$m = n = 100$$ найдем асимптотическое среднее квадратическое отклонение $$A(0,90; 0,80)$$.

Поскольку $$\varphi(\Phi^{-1}(\kappa)) = \varphi(1,28) = 0,176, \varphi(\Phi^{-1}(\lambda)) = \varphi(0,84) = 0,280, \varphi(d^*/2) = \varphi(1,06) = 0,227$$, то подставляя в выражение для $$A^2$$ численные значения, получаем, что$$A^2(0,90;0,80)=\frac{0,0372}{m}+\frac{0,0265}{n}$$ (численные значения плотности стандартного нормального распределения с математическим ожиданием 0 и дисперсией 1 и функции, обратной к функции этого распределения, можно было взять, например, из справочника []).

При $$m = n = 100$$ имеем $$A(0,90; 0,80) = 0,0252$$. При доверительной вероятности $$\gamma = 0,95$$ имеем $$u(0,95) = \Phi^{-1}(1,0,975) = 1,96$$, а потому нижняя доверительная граница для прогностической силы $$\delta$$ есть $$\delta_{\text{Н}} = 0,86 - 1,96 \times 0,0252 = 0,81$$, а верхняя доверительная граница такова: $$\delta_{\text{В}} = 0,86 + 1,96 \times 0,0252 = 0,91$$. Аналогичный расчет при $$m = n = 1000$$ дает $$\delta_{\text{Н}} = 0,845, \delta_{\text{В}} = 0,875$$.

Как проверить обоснованность пересчета на модель линейного дискриминантного анализа? Допустим, что классификация состоит в вычислении некоторого прогностического индекса у и сравнении его с заданным порогом $$c$$. Объект относят к первому классу, если $$y\le c$$, ко второму, если $$y> c$$. Прогностический индекс - это обычно линейная функция от характеристик рассматриваемых объектов. Другими словами, от координат векторов, описывающих объекты.

Возьмем два значения порога $$c_1$$ и $$c_2$$. Если пересчет на модель линейного дискриминантного анализа обоснован, то, как можно показать, "прогностические силы" для обоих правил совпадают: $$\delta(c_1)=\delta(c_2)$$. Выполнение этого равенства можно проверить как статистическую гипотезу.

Пусть $$\kappa_1$$ - доля объектов первого класса, для которых $$y\le c_1$$, а $$\kappa_2$$ - доля объектов первого класса, для которых $$c_1<y\le c_2$$. Аналогично пусть $$\lambda_2$$ - доля объектов второго класса, для которых $$c_1<y\le c_2$$, а $$\lambda_3$$ - доля объектов второго класса, для которых $$y>c_2$$. Тогда можно рассчитать две оценки одного и того же расстояния Махаланобиса. Они имеют вид:$$d^*(c_1)=\Phi^{-1}(\kappa_1)+\Phi^{-1}(\lambda_2+\lambda_3),\; d^*(c_2)=\Phi^{-1}(\kappa_1+\kappa_2)+\Phi^{-1}(\lambda_3).$$

Теорема 3. Если истинные прогностические силы двух правил диагностики совпадают, $$\delta(c_1)=\delta(c_2)$$, то при $$m\rightarrow\infty,n\rightarrow\infty$$ при всех $$x$$$$P\left\{ \frac{d^*(c_1)-d^*(c_2)}{B}< x \right\} \rightarrow\widehat{O}(x),$$ где$$\begin{gathered} B^2=\frac{1}{m}T(\kappa_1;\kappa_2)+\frac{1}{n}(\lambda_3;\lambda_2); \\ T(x;y)=\frac{x(1-x)}{\varphi^2(\Phi^{-1}(x))}+ \frac{(x+y)(1-x-y)}{\varphi^2(\Phi^{-1}(x+y))}- \frac{2x(1-x-y)}{\varphi(\Phi^{-1}(x))\varphi(\Phi^{-1}(x+y))}. \end{gathered}$$

Из теоремы 3 вытекает метод проверки рассматриваемой гипотезы: при выполнении неравенства$$\left| \frac{d^*(c_1)-d^*(c_2)}{B} \right| \le\widehat{O}^{-1} \left( 1-\frac{\alpha}{2} \right)$$ она принимается на уровне значимости, асимптотически равном $$\alpha$$, в противном случае - отвергается.

Пример 3. Пусть данные примеров 1 и 2 соответствуют порогу $$c_1$$. Пусть порогу $$c_2$$ соответствуют $$\kappa' = 0,95$$ и $$\lambda' = 0,70$$. Тогда в обозначениях теоремы 3 $$\kappa_1 = 0,90, \kappa_2 = 0,05, \kappa_2 = 0,10, \kappa_3 = 0,70$$. Далее $$d^*(c_1) = 2,12$$ (пример 1), $$d^*(c_2) = 2,17, T(\kappa_1, \kappa_2) = 2,22, T(\lambda_3, \lambda_2) = 0,89$$. Гипотеза о совпадении прогностических сил на двух порогах принимается на уровне значимости $$\alpha = 0,05$$ тогда и только тогда, когда$$\frac{0,05^2}{\frac{2,22}{m}+\frac{0,89}{n}}\le 1,96^2,$$ т.е. когда$$\frac{2,22}{m}+\frac{0,89}{n}\ge 0,00065.$$

Так, гипотеза принимается при $$m = n = 1000$$ и отвергается при $$m = n = 5000$$.

Подходы к построению прогностических правил. Для решения задач диагностики используют два подхода - параметрический и непараметрический. Первый из них обычно основан на использовании того или иного индекса и сравнении его с порогом. Индекс может быть построен по статистическим данным, например, как в уже упомянутом линейном дискриминантном анализе Фишера. Часто индекс представляет собой линейную функцию от характеристик, выбранных специалистами предметной области, коэффициенты которой подбирают эмпирически. Непараметрический подход связан с леммой Неймана-Пирсона в математической статистике и с теорией статистических решений. Он опирается на использование непараметрических оценок плотностей распределений вероятностей, описывающих диагностические классы.

Обсудим ситуацию подробнее. Математические методы диагностики, как и статистические методы в целом, делятся на параметрические и непараметрические. Первые основаны на предположении, что классы описываются распределениями из некоторых параметрических семейств. Обычно рассматривают многомерные нормальные распределения, при этом зачастую принимают гипотезу о том, что ковариационные матрицы для различных классов совпадают. Именно в таких предположениях сформулирован классический дискриминантный анализ Фишера. Как известно, обычно нет оснований считать, что наблюдения извлечены из нормального распределения.

Поэтому более корректными, чем параметрические, являются непараметрические методы диагностики. Исходная идея таких методов основана на лемме Неймана-Пирсона, входящей в стандартный курс математической статистики. Согласно этой лемме решение об отнесении вновь поступающего объекта (сигнала, наблюдения и др.) к одному из двух классов принимается на основе отношения плотностей $$f(x)/g(x)$$, где $$f(x)$$ - плотность распределения, соответствующая первому классу, а $$g(x)$$ - плотность распределения, соответствующая второму классу. Если плотности распределения неизвестны, то применяют их непараметрические оценки, построенные по обучающим выборкам. Пусть обучающая выборка объектов из первого класса состоит из $$n$$ элементов, а обучающая выборка для второго класса - из $$m$$ объектов. Тогда рассчитывают значения непараметрических оценок плотностей $$f_n(x)$$ и $$g_m(x)$$ для первого и второго классов соответственно, а диагностическое решение принимают по их отношению. Таким образом, для решения задачи диагностики достаточно научиться строить непараметрические оценки плотности для выборок объектов произвольной природы.

Методы построения непараметрических оценок плотности распределения вероятностей в пространствах произвольной природы рассмотрены в лекции 5.

9.6. Методы снижения размерности

В многомерном статистическом анализе каждый объект описывается вектором, размерность которого произвольна (но одна и та же для всех объектов). Однако человек может непосредственно воспринимать лишь числовые данные или точки на плоскости. Анализировать скопления точек в трехмерном пространстве уже гораздо труднее. Непосредственное восприятие данных более высокой размерности невозможно. Поэтому вполне естественным является желание перейти от многомерной выборки к данным небольшой размерности, чтобы "на них можно было посмотреть".

Кроме стремления к наглядности, есть и другие мотивы для снижения размерности. Те факторы, от которых интересующая исследователя переменная не зависит, лишь мешают статистическому анализу. Во-первых, на сбор информации о них расходуются ресурсы. Во-вторых, как можно доказать, их включение в анализ ухудшает свойства статистических процедур (в частности, увеличивает дисперсию оценок параметров и характеристик распределений). Поэтому желательно избавиться от таких факторов.

Обсудим с точки зрения снижения размерности пример использования регрессионного анализа для прогнозирования объема продаж, рассмотренный в 9.3. Во-первых, в этом примере удалось сократить число независимых переменных с 17 до 12. Во-вторых, удалось сконструировать новый фактор - линейную функцию от 12 упомянутых факторов, которая лучше всех иных линейных комбинаций факторов прогнозирует объем продаж. Поэтому можно сказать, что в результате размерность задачи уменьшилась с 18 до 2. А именно, остался один независимый фактор (приведенная в 9.3 линейная комбинация) и один зависимый - объем продаж.

При анализе многомерных данных обычно рассматривают не одну, а множество задач, в частности, по-разному выбирая независимые и зависимые переменные. Поэтому рассмотрим задачу снижения размерности в следующей формулировке. Дана многомерная выборка. Требуется перейти от нее к совокупности векторов меньшей размерности, максимально сохранив структуру исходных данных, по возможности не теряя информации, содержащихся в данных. Задача конкретизируется в рамках каждого конкретного метода снижения размерности.

Метод главных компонент является одним из наиболее часто используемых методов снижения размерности. Основная его идея состоит в последовательном выявлении направлений, в которых данные имеют наибольший разброс. Пусть выборка состоит из векторов, одинаково распределенных с вектором $$X = (x(1), x(2),... , x(n))$$. Рассмотрим линейные комбинации$$Y(\lambda(1),\lambda(2),...,\lambda(n))=\lambda(1)x(1)+\lambda(2)x(2)+...+\lambda(n)x(n),$$ где $$\lambda^2(1)+\lambda^2(2)+...+\lambda^2(n)=1$$.

Здесь вектор $$\lambda = (\lambda(1),\lambda(2),...,\lambda(n))$$ лежит на единичной сфере в $$n$$ -мерном пространстве.

В методе главных компонент прежде всего находят направление максимального разброса, т.е. такое $$\lambda$$, при котором достигает максимума дисперсия случайной величины $$Y(\lambda) = Y(\lambda(1), \lambda(2), ..., \lambda(n))$$. Тогда вектор $$\lambda$$ задает первую главную компоненту, а величина $$Y(\lambda)$$ является проекцией случайного вектора $$X$$ на ось первой главной компоненты.

Затем, выражаясь терминами линейной алгебры, рассматривают гиперплоскость в $$n$$ -мерном пространстве, перпендикулярную первой главной компоненте, и проектируют на эту гиперплоскость все элементы выборки. Размерность гиперплоскость на 1 меньше, чем размерность исходного пространства.

В рассматриваемой гиперплоскости процедура повторяется. В ней находят направление наибольшего разброса, т.е. вторую главную компоненту. Затем выделяют гиперплоскость, перпендикулярную первым двум главным компонентам. Ее размерность на 2 меньше, чем размерность исходного пространства. Далее - следующая итерация.

С точки зрения линейной алгебры речь идет о построении нового базиса в $$n$$ -мерном пространстве, ортами которого служат главные компоненты.

Дисперсия, соответствующая каждой новой главной компоненте, меньше, чем для предыдущей. Обычно останавливаются, когда она меньше заданного порога. Если отобрано $$k$$ главных компонент, то это означает, что от $$n$$ -мерного пространства удалось перейти к $$k$$ -мерному, т.е. сократить размерность с $$n$$ -до $$k$$, практически не исказив структуру исходных данных.

Для визуального анализа данных часто используют проекции исходных векторов на плоскость первых двух главных компонент. Обычно хорошо видна структура данных, выделяются компактные кластеры объектов и отдельно выделяющиеся вектора.

Метод главных компонент является одним из методов ]. Различные алгоритмы факторного анализа объединены тем, что во всех них происходит переход к новому базису в исходном $$n$$ -мерном пространстве. Важным является понятие "нагрузка фактора", применяемое для описания роли исходного фактора (переменной) в формировании определенного вектора из нового базиса.

Новая идея по сравнению с методом главных компонент состоит в том, что на основе нагрузок происходит разбиение факторов на группы. В одну группу объединяются факторы, имеющие сходное влияние на элементы нового базиса. Затем из каждой группы рекомендуется оставить одного представителя. Иногда вместо выбора представителя расчетным путем формируется новый фактор, являющийся центральным для рассматриваемой группы. Снижение размерности происходит при переходе к системе факторов, являющихся представителями групп. Остальные факторы отбрасываются.

Описанная процедура может быть осуществлена не только с помощью факторного анализа. Речь идет о кластер-анализе признаков (факторов, переменных). Для разбиения признаков на группы можно применять различные алгоритмы кластер-анализа. Достаточно ввести расстояние (меру близости, показатель различия) между признаками. Пусть $$X$$ и $$Y$$ - два признака. Различие $$d(X,Y)$$ между ними можно измерять с помощью выборочных коэффициентов корреляции:$$d_1(X,Y)=1-r_n(X,Y),d_2(X,Y)=1-\rho_n(X,Y),$$ где $$r_n(X,Y)$$ - выборочный линейный коэффициент корреляции Пирсона, $$\rho_n(X,Y)$$ - выборочный коэффициент ранговой корреляции Спирмена.

, ]. Основная идея этого класса методов состоит в представлении каждого объекта точкой геометрического пространства (обычно размерности 1, 2 или 3), координатами которой служат значения скрытых (латентных) факторов, в совокупности достаточно адекватно описывающих объект. При этом отношения между объектами заменяются отношениями между точками - их представителями. Так, данные о сходстве объектов - расстояниями между точками, данные о превосходстве - взаимным расположением точек [].

В практике используется ряд различных моделей многомерного шкалирования. Во всех них встает проблема оценки истинной размерности факторного пространства. Рассмотрим эту проблему на примере обработки данных о сходстве объектов с помощью метрического шкалирования.

Пусть имеется $$n$$ объектов $$O(1), O(2), ..., O(n)$$, для каждой пары объектов $$O(i), O(j)$$ задана мера их сходства $$s(i,j)$$. Считаем, что всегда $$s(i,j) = s(j,i)$$. Происхождение чисел $$s(i,j)$$ не имеет значения для описания работы алгоритма. Они могли быть получены либо непосредственным измерением, либо с использованием экспертов, либо путем вычисления по совокупности описательных характеристик, либо как-то иначе.

В евклидовом пространстве рассматриваемые n объектов должны быть представлены конфигурацией $$n$$ точек, причем в качестве меры близости точек-представителей выступает евклидово расстояние $$d(i,j)$$ между соответствующими точками. Степень соответствия между совокупностью объектов и совокупностью представляющих их точек определяется путем сопоставления матриц сходства $$||s(i,j)||$$ и расстояний $$||d(i,j)||$$. Метрический функционал сходства имеет вид$$S=\sum_{i<j}|s(i,j)-d(i,j)|^2.$$

Геометрическую конфигурацию надо выбирать так, чтобы функционал $$S$$ достигал своего наименьшего значения [].

Замечание. В неметрическом шкалировании вместо близости самих мер близости и расстояний рассматривается близость упорядочений на множестве мер близости и множестве соответствующих расстояний. Вместо функционала $$S$$ используются аналоги ранговых коэффициентов корреляции Спирмена и Кендалла. Другими словами, неметрическое шкалирование исходит из предположения, что меры близости измерены в порядковой шкале.

Пусть евклидово пространство имеет размерность $$m$$. Рассмотрим минимум среднего квадрата ошибки$$\alpha_m=\frac{2}{n(n-1)}\min S,$$ где минимум берется по всем возможным конфигурациям $$n$$ точек в $$m$$ -мерном евклидовом пространстве. Можно показать, что рассматриваемый минимум достигается на некоторой конфигурации. Ясно, что при росте $$m$$ величина $$\alpha_m$$ монотонно убывает (точнее, не возрастает). Можно показать, что при $$m \ge n - 1$$ она равна 0 (если $$s(i,j)$$ - метрика). Для увеличения возможностей содержательной интерпретации желательно действовать в пространстве возможно меньшей размерности. При этом, однако, размерность необходимо выбрать так, чтобы точки представляли объекты без больших искажений. Возникает вопрос: как рационально выбирать размерность, т.е. натуральное число $$m$$?

В рамках детерминированного анализа данных обоснованного ответа на этот вопрос, видимо, нет. Следовательно, необходимо изучить поведение $$\alpha_m$$ в тех или иных вероятностных моделях. Если меры близости $$s(i,j)$$ являются случайными величинами, распределение которых зависит от "истинной размерности" $$m_0$$ (и, возможно, от каких-либо еще параметров), то можно в классическом математико-статистическом стиле ставить задачу оценки $$m_0$$, искать состоятельные оценки и т.д.

Начнем строить вероятностные модели. Примем, что объекты представляют собой точки в евклидовом пространстве размерности $$k$$, где $$k$$ достаточно велико. То, что "истинная размерность" равна $$m_0$$, означает, что все эти точки лежат на гиперплоскости размерности $$m_0$$. Примем для определенности, что совокупность рассматриваемых точек представляет собой выборку из кругового нормального распределения с дисперсией $$\sigma^2(0)$$. Это означает, что объекты $$O(1), O(2), ..., O(n)$$ являются независимыми в совокупности случайными векторами, каждый из которых строится как $$\xi(1)e(1) + \xi(2)e(2) + ... + \xi(m_0)e(m_0)$$, где $$e(1), e(2), ... , e(m_0)$$ - ортонормальный базис в подпространстве размерности $$m_0$$, в котором лежат рассматриваемые точки, а $$\xi(1), \xi(2), ... , \xi(m_0)$$ - независимые в совокупности одномерные нормальные случайные величины с математическим ожиданием 0 и дисперсией $$\sigma^2(0)$$.

Рассмотрим две модели получения мер близости $$s(i,j)$$. В первой из них $$s(i,j)$$ отличаются от евклидова расстояния между соответствующими точками из-за того, что точки известны с искажениями. Пусть $$c(1), c(2), ... , c(n)$$ - рассматриваемые точки. Тогда$$s(i,j) = d(c(i) + \varepsilon(i), c(j) + \varepsilon(j)), i,j = 1, 2, ... , n,$$ где $$d$$ - евклидово расстояние между точками в $$k$$ -мерном пространстве, вектора $$\varepsilon(1), \varepsilon(2), ... , \varepsilon(n) $$ представляют собой выборку из кругового нормального распределения в $$k$$ -мерном пространстве с нулевым математическим ожиданием и ковариационной матрицей $$\sigma^2(1)I$$, где $$I$$ - единичная матрица. Другими словами, $$\varepsilon(i) = \eta(i, 1)e(1) + \eta(i, 2)e(2) + ... + \eta(i, k)e(k)$$, где $$e(1), e(2), ..., e(k)$$ - ортонормальный базис в $$k$$ -мерном пространстве, а $$\{\eta(i,t), i = 1, 2, ... , n, t = 1, 2, ... , k\}$$ - совокупность независимых в совокупности одномерных случайных величин с нулевым математическим ожиданием и дисперсией $$\sigma^2(1)$$.

Во второй модели искажения наложены непосредственно на сами расстояния:$$s(i,j) = d(c(i), c(j)) + \varepsilon(i,j), i,j = 1, 2, ... , n, i \ne j,$$ где $$\{\varepsilon(i,j), i,j = 1, 2, ..., n\}$$ - независимые в совокупности нормальные случайные величины с математическим ожиданием $$o$$ и дисперсией $$\sigma^2(1)$$.

В работе [] показано, что для обеих сформулированных моделей минимум среднего квадрата ошибки $$\alpha_m$$ при $$n\rightarrow\infty$$ сходится по вероятности к$$f(m) = f_1(m) + \sigma^2(1)(k - m), m = 1, 2, ..., k,$$ где$$f_1(m)=\left\{ \begin{gathered} \sigma^2(0)(m_0-m),\; m<m_0, \\ 0,\; m\ge m_0 \end{gathered} \right.$$

Таким образом, функция $$f(m)$$ линейна на интервалах $$[1, m_0]$$ и $$[m_0, k]$$, причем на первом интервале она убывает быстрее, чем на втором. Отсюда следует, что статистика$$m^*=Arg\min_m\{\alpha_{m+1}-2\alpha_m+\alpha_{m-1}\}$$ является состоятельной оценкой истинной размерности $$m_0$$.

Итак, из вероятностной теории вытекает рекомендация - в качестве оценки размерности факторного пространства использовать $$m^*$$. Отметим, что подобная рекомендация была сформулирована как эвристическая одним из основателей многомерного шкалирования Дж. Краскалом []. Он исходил из опыта практического использования многомерного шкалирования и вычислительных экспериментов. Вероятностная теория позволила обосновать эту эвристическую рекомендацию.

9.7. Индексы и их применение

Индекс ( лат. index - показатель, список) - статистический относительный показатель, характеризующий соотношение во времени (динамический индекс) или в пространстве (территориальный индекс) социально-экономических явлений. Речь идет о ценах на товары и услуги, объемах производства, себестоимости, объемах продаж и др. Индексы делятся на индивидуальные и сводные. Так, индивидуальный динамический индекс описывает изменение тех или иных явлений во времени. Например, изменения цены на отдельный товар, объема выплавки стали, урожайности картофеля. Для вычисления индивидуального индекса значение измеряемой величины в текущем периоде делят на ее значение в базисном периоде. Сводный индекс служит для сопоставления непосредственно несоизмеримых, разнородных явлений. Например, объемов продаж различных продовольственных товаров (в килограммах). Для требуемого сопоставления необходимо составные элементы несоизмеримых явлений сделать соизмеримыми, выразив их общей мерой: стоимостью, трудовыми затратами и т.д. Сводные индексы обычно имеют один из трех видов:$$I_1=\frac{\sum x_1f_0}{\sum x_0f_0},\; I_2=\frac{\sum x_1f_1}{\sum x_0f_1},\; I_3=\frac{\sum x_1f_1}{\sum x_0f_0},$$ где $$x$$ - индексируемая величина, $$f$$ - веса индексов, 0 и 1 - знаки соответственно базисного и текущего периодов [, с.154]. Таким образом, индексы, как и коэффициенты корреляции, зависят от двух переменных - индексируемой величины $$x$$ и весов индексов $$f$$.

В качестве примера построения и использования индексов рассмотрим индекс потребительских цен, он же - индекс инфляции.

Под инфляцией понимаем рост (изменение) цен []. При анализе экономических процессов, протяженных во времени, необходимо переходить к сопоставимым ценам. Это невозможно сделать без расчета индекса роста цен, т.е. индекса инфляции. Проблема состоит в том, что цены на разные товары растут с различной скоростью, и необходимо эти скорости усреднять.

Рассмотрим конкретного покупателя товаров и услуг, т.е. конкретного экономического субъекта: физическое лицо, домохозяйство или фирму. Он покупает не один товар, а много. Обозначим через n количество типов товаров или услуг (далее кратко - товаров), которые он хочет и может купить. Пусть$$Q_i = Q_i(t), i=1,2,...,n, -$$ объемы покупок этих товаров в момент времени $$t$$ по ценам:$$r_i = r_i(t), i=1,2,...,n$$ (имеется в виду цена за единицу измерения соответствующего товара, например, за штуку, килограмм и т.п.).

Подход к измерению роста цен основан на выборе и фиксации потребительской корзины $$(Q_1(t), Q_2(t), ..., Q_n(t))$$, не меняющейся со временем, т.е. $$(Q_1(t), Q_2(t), ..., Q_n(t)) \equiv (Q_1, Q_2, ..., Q_n)$$. Затем необходимо сравнить стоимости потребительской корзины $$(Q_1, Q_2, ..., Q_n)$$ в старых $$r_i(t_1), i=1,2,...,n$$, и новых $$r_i(t_2), i=1,2,...,n$$, ценах.

Определение. Индексом инфляции называется$$I(t_1,t_2)=\frac{\sum\limits_{1\le i\le n}r_i(t_2)Q_i}{\sum\limits_{1\le i\le n}r_i(t_1)Q_i}.$$

Таким образом, каждой потребительской корзине соответствует свой индекс инфляции. Однако согласно теореме сложения для индекса инфляции [] он является средним взвешенным арифметическим роста цен на отдельные товары. Поэтому индексы инфляции, рассчитанные по разным достаточно обширным и представительным потребительским корзинам, достаточно близки между собой (см. конкретные данные в []).

Институт высоких статистических технологий и эконометрики (ИВСТЭ) использовал для измерения инфляции минимальную потребительскую корзину физиологически необходимых продовольственных товаров []. Она была разработана на основе исходных данных Института питания Российской академии медицинских наук (РАМН). Данные о динамике индекса инфляции приведены в табл.9.3.

Примечания. 1. В таблице целая часть отделяется от дробной десятичной точкой, а запятая используется для деления числа по разрядам (на западный манер). 2. Учитывается проведенная деноминация рубля. Если ее не не брать в расчет, то за 14 лет (1991-2005) цены (в Москве) выросли примерно в 68 тысяч раз. Поскольку экономические связи между регионами ослабли, то темпы роста цен в регионах различаются, но, видимо, не более чем на 10-20%.

]), а если сравнивать с временами Тома Сойера - в 100 раз больше. Причем стоимость денежных единиц с течением времени, как правило, падает. Этому есть две основные причины - банковский процент и инфляция. В экономике есть инструменты для учета изменения стоимости денежных единиц с течением времени. Один из наиболее известных - расчет NPV ( Net Present Value ) - чистой текущей стоимости. Однако бухгалтерский учет и построенный на данных баланса предприятия экономический анализ финансово-хозяйственной деятельности предприятия пока что, как правило, игнорируют сам факт наличия инфляции. Обсудим некоторые возможности использования индекса инфляции в экономических расчетах в процессе подготовки и принятия решений.

Переход к сопоставимым ценам. Индекс инфляции предоставляет возможность перехода к сопоставимым ценам, расходам, доходам и другим экономическим величинам. Например, по данным табл.9.3 индекс инфляции за 4 года - с 14.03.91 г. по 16.03.95 г. - составил 5936. Это означает, что покупательной способности 1 рубля марта 1991 г. соответствует примерно 6000 (а точнее 5936) рублей марта 1995 г.

Рассмотрим приведение доходов к неизменным ценам. Пусть Иван Иванович Иванов получал в 1990 г. 300 руб. в месяц, а в мае 1995 г. - 1 млн руб. в месяц. Увеличились его доходы или уменьшились?

Номинальная заработная плата выросла в 1000000/300 = 3333 раза. Однако индекс инфляции на 18 мая 1995 г. составлял 7080. Это значит, что 1 руб. 1990 г. соответствовал по покупательной способности 7080 руб. в ценах на 18.05.95 г. Следовательно, в ценах 1990 г. доход И.И. Иванова составлял 1000000/7080 = 142 руб. 24 коп., т.е. 47,4% от дохода в 1990 г.

Можно поступить наоборот, привести доход 1990 г. к ценам на 18 мая 1995 г. Для этого достаточно умножить его на индекс инфляции: доход 1990 г. соответствует 300 x 7080 = 2 млн 124 тыс. руб. в ценах мая 1995 г.

Средняя заработная плата. По данным Госкомстата РФ средняя заработная плата составляла в 1990 г. 297 руб., в октябре 1993 г. - 93 тыс. руб., в январе 1995 г. - 303 тыс. руб. Поскольку заработная плата тратится в основном в следующем месяце после получки, то рассмотрим индексы инфляции на 15.11.93 г. и 2.02.95 г., равные 1045 и 4811 соответственно. В ценах 1990 г. средняя заработная плата составила 89 руб. и 62 руб.98 коп. соответственно, т.е. 30% и 21,2% от заработной платы 1990 г.

Средняя заработная плата рассчитывается путем деления фонда оплаты труда на число работников. При этом объединяются доходы и низкооплачиваемых лиц и сравнительно высокооплачиваемых. Известно, что распределение доходов резко асимметрично, большому числу низкооплачиваемых работников соответствует малое число лиц с высокими доходами. За 1991-1995-е годы дифференциация доходов резко увеличилась. Это означает, что доходы основной массы трудящихся сдвинулись влево относительно средней заработной платы. По нашей оценке 50% получали не более 70% от средней заработной платы, т.е. не более 212100 руб. по состоянию на январь 1995 г., а наиболее массовой является оплата в 50% от средней, т.е. около 150 тыс. руб. в месяц.

Доходы отдельных слоев трудящихся снизились еще существеннее. Заработная плата профессора Московского государственного института электроники и математики (технического университета) составляла в марте 1994 г. - 42 руб. 92 коп. (в ценах 1990 г.), в июле 1995 г. - 43 руб. 01 коп., т.е. с 1990 г. (400 руб.) снизилась в 9,3 раза, дошла до уровня прежней студенческой стипендии. А студенческие стипендии снизились примерно в той же пропорции и составляли 4-5 руб. в ценах 1990 г.

Кроме того, необходимо учесть, что Госкомстат учитывает начисленную заработную плату, а не выплаченную. В отдельные периоды отечественной истории выплата заработной платы откладывалась надолго.

Минимальная заработная плата и прожиточный минимум. Минимальная заработная плата в сентябре 1994 г. (22 500 руб.) и в мае 1995 г. (43 700 руб.) составляла 38% и 23,4% соответственно от стоимости минимальной физиологически необходимой продовольственной корзины. После подъема до 55 тыс. руб. она в сентябре 1995 г. составляла около 26,34% от стоимости корзины, т.е. реально уменьшилась в 1,44 раза по сравнению с сентябрем 1994 г. В дальнейшем уменьшение стало еще более заметным.

Минимальная зарплата вместе с единой тарифной сеткой во многом определяла зарплату работников бюджетной сферы. Учитывая снижение коэффициентов тарифной сетки, проведенное весной 1995 г., снижение в 1,5 раза покупательной способности минимальной зарплаты, необходимо заключить, что в сентябре 1995 г. доход бюджетников в 2 раза меньше, чем год назад.

Оценим прожиточный минимум. Бюджетные обследования 1990 года показали, что для лиц с низкими доходами расходы на продовольствие составляют около 50% всех расходов, т.е. на промтовары и услуги идет около 50% доходов. Это соотношение подтвердило и проведенное ИВСТЭ бюджетное обследование конца 1995 г. Исходя из него, среднедушевой прожиточный минимум можно оценить, умножая на 2,0 стоимость минимальной продовольственной корзины ИВСТЭ. Например, на 1 сентября 1995 г. - 418 220 руб. Т.е. прожиточный уровень для семьи из трех человек - муж, жена и ребенок - должен был на 1 сентября 1995 г. составлять 1,25 млн руб. (в месяц). Например, муж должен получать 800 тыс. руб., жена - 450 тыс. руб. в месяц. Очевидно, доходы большинства трудящихся меньше прожиточного уровня.

Численные значения стоимостей потребительских корзин и индексов инфляции рассчитаны ИВСТЭ в основном по ценам на продукты в Москве и Подмосковье. Однако для других регионов численные значения отличаются мало. Для Москвы индекс инфляции на 1.09.95 г. - 7759, а для Иванова на 1.08.95 г. - 7542. Поскольку потребительская корзина на 14.03.91 г. в Иванове была на 95 коп. дешевле, то и на 1.08.95 г. она несколько дешевле - 195337 руб., а прожиточный минимум равен 390673 руб. Приведенные выше численные значения для Москвы в качестве первого приближения можно использовать для различных регионов России.

Индексы инфляции с помощью описанной выше методики можно рассчитать для любого региона, профессиональной или социальной группы, отдельного предприятия или даже конкретной семьи. Эти значения могут быть эффективно использованы на трехсторонних переговорах между профсоюзами, работодателями и представителями государства.

Проценты по вкладам в банк, плата за кредит и инфляция. Рассмотрим банк, честно выполняющий свои обязательства. Пусть он дает 10% в месяц по депозитным вкладам. Тогда 1 руб., положенный в банк, через месяц превращается в 1,1 руб., а через 2 - по формуле сложных процентов - в 1,1² = 1,21 руб., ..., через год - в 1,1¹² = 3,14 руб. Однако за год росли не только вклады, но и цены. Например, с 19.05.94 г. по 18.05.95 г. индекс инфляции составил 3,73. Значит, в ценах на момент оформления вкладов итог годового хранения равен 3,14 / 3,73 = = 0,84 руб. Хранение оказалось невыгодным - реальная стоимость вклада уменьшилась на 16%, несмотря на, казалось бы, очень выгодные условия банка.

Пусть фирма получила кредит под 200% годовых. Значит, вместо 1 рубля, полученного в настоящий момент в кредит, через год ей надо отдать 3 рубля. Пусть она взяла кредит 19.05.94 г., а отдает 18.05.95 г. Тогда в ценах на момент взятия кредита она отдает 3/3,73 = 0,80 руб. за 1 руб. кредита. Таким образом, кредит частично превратился в подарок - возвращать надо на 20% меньше, чем получил, реальная ставка кредита отрицательна, она равна (-20)%! Такова была типичная ситуация в России в течение ряда лет начиная с 1992 г., особенно в 1992-1994 гг. Но бесплатных подарков в бизнесе не бывает - за них надо платить по другим каналам, как правило, криминальным.

Сколько стоит доллар? В июле 1995 г. индекс инфляции около 7000, а курс доллара США - около 4500 руб. за доллар. Следовательно, доллар США стоил 4500 / 7000 = 0,64 руб. в ценах 1990 г., что примерно соответствует официальному обменному курсу в 1980-х годах. В сентябре 1994 г. курс доллара был около 2000, а индекс инфляции - около 2200, т.е. доллар стоил около 0,90 руб. в ценах 1990 г. Реальная покупательная способность доллара упала за 10 месяцев в 1,42 раза.

В середине 2003 г. курс доллара был несколько больше 30 руб. (30 руб. 38 коп.), индекс инфляции составлял 52,56, следовательно, 1 доллар США по своей покупательной способности в России на июль 2003 г. соответствовал 58 копейкам начала 1991 г.

Инфляция, показатели работы предприятия и ВВП. Индексы инфляции используются для пересчета номинальных цен в неизменные (сопоставимые). Другими словами, для приведения доходов и расходов к ценам определенного момента времени. Потребительские корзины для промышленных предприятий, конечно, должны включать промышленные товары, а потому отличаться от потребительских корзин, ориентированных для изучения жизненного уровня.

Сколько стоит предприятие? Важно оценить основные фонды. Для этого нужно взять их стоимость в определенный момент времени и умножить на индекс инфляции (и учесть амортизационные отчисления).

Валовой внутренний продукт, валовой национальный продукт и другие характеристики экономического положения страны рассчитываются в текущих ценах. Для перехода к неизменным ценам, грубо говоря, надо поделить на индекс инфляции (т.е. умножить на дефлятор).

Проблема учета инфляции при экономическом анализе финансово-хозяйственной деятельности предприятия. Как известно, разработана и широко применяется развернутая система коэффициентов, используемых при экономическом анализе финансово-хозяйственной деятельности предприятия []. Она основана на данных бухгалтерского баланса - на "начало периода" и на "конец периода". В соответствующие столбцы записываются номинальные значения. В настоящее время инфляцию полностью игнорируют. Это приводит к искажению реального положения предприятия. Денежные средства преувеличиваются, а реальная стоимость основных фондов занижается. По официальной отчетности предприятие может считаться получившим хорошую прибыль, а по существу - не иметь средств для продолжения производственной деятельности.

Ясно, что учитывать инфляцию надо. Вопрос в другом - как именно. Потребительская корзина должна, видимо, состоять из тех товаров и услуг, которые предприятие покупает. Стоимость основных фондов может не убывать в соответствии с амортизацией, а возрастать согласно отраслевому темпу инфляции (уменьшенному на процент амортизационных отчислений), и т.д.

Контрольные вопросы и задачи

Темы докладов, рефератов, исследовательских работ