НОУ ИНТУИТ | Прикладная статистика. Лекция 1: Различные виды статистических данных

Учитесь и получайте официальные документы БЕСПЛАТНО. Вы можете поддержать наш проект.

Регистрация Вход

Твой путь к знаниям!

Опубликован: 09.11.2009 | Уровень: для всех | Доступ: свободно

|

Вам нравится? Нравится 61 студенту

| Поделиться |

Поддержать программу

1.5. Данные и расстояния в пространствах произвольной природы

Как показано выше, исходные статистические данные могут иметь разнообразную математическую природу, являться элементами разнообразных пространств - конечномерных, функциональных, бинарных отношений, множеств, нечетких множеств и т.д. Следовательно, центральной частью прикладной статистики является статистика в пространствах произвольной природы. Эта область прикладной статистики сама по себе не используется при анализе конкретных данных. Это очевидно, поскольку конкретные данные всегда имеют вполне определенную природу. Однако общие подходы, методы, результаты статистики в пространствах произвольной природы представляют собой научный инструментарий, готовый для использования в каждой конкретной области.

Статистика в пространствах произвольной природы. Много ли общего у статистических методов анализа данных различной природы? На этот естественный вопрос можно сразу же однозначно ответить - да, очень много. Такой ответ будет постоянно подтверждаться и конкретизироваться на протяжении всего учебника. Несколько примеров приведем сразу же.

Прежде всего отметим, что понятия случайного события, вероятности, независимости событий и случайных величин являются общими для любых конечных вероятностных пространств и любых конечных областей значений случайных величин (см. лекции "Основы вероятностно-статистических методов описания неопределенностей" и "Описание данных" ). Поскольку все реальные явления и процессы описываются с помощью математических объектов из конечных множеств, сказанное выше означает, что конечных вероятностных пространств и дискретных случайных величин (точнее, величин, принимающих значения в конечном множестве) достаточно для всех практических применений. Переход к непрерывным моделям реальных явлений и процессов оправдан только тогда, когда этот переход облегчает проведение рассуждений и выкладок. Например, находить определенные интегралы зачастую проще, чем вычислять значения сумм. Не могу не отметить, что приведенные соображения о взаимосоотнесении дискретных и непрерывных математических моделей автор услышал более 30 лет назад от академика А.Н. Колмогорова (ясно, что за конкретную формулировку несет ответственность автор настоящего учебника).

Основные проблемы прикладной статистики - описание данных, оценивание, проверка гипотез - также в своей существенной части могут быть рассмотрены в рамках статистики в пространствах произвольной природы. Например, для описания данных могут быть использованы эмпирические и теоретические средние, плотности вероятностей и их непараметрические оценки, регрессионные зависимости. Правда, для этого пространства произвольной природы должны быть снабжены соответствующим математическим инструментарием - расстояниями (показателями близости, мерами различия) между элементами рассматриваемых пространств.

Популярный в настоящее время метод оценивания параметров распределений - метод максимального правдоподобия - не накладывает каких-либо ограничений на конкретный вид элементов выборки. Они могут лежать в пространстве произвольной природы. Математические условия касаются только свойств плотностей вероятности и их производных по параметрам. Аналогично положение с методом одношаговых оценок, идущим на смену методу максимального правдоподобия (см. "Оценивание" ). Асимптотику решений экстремальных статистических задач достаточно изучить для пространств произвольной природы, а затем применять в каждом конкретном случае [ [ 1.17 ] ], когда задачу прикладной статистики удается представить в оптимизационном виде. Общая теория проверки статистических гипотез также не требует конкретизации математической природы рассматриваемых элементов выборок. Это относится, например, к лемме Неймана-Пирсона или теории статистических решений. Более того, естественная область построения теории статистик интегрального типа - это пространства произвольной природы (см. "Проверка гипотез" ).

Совершенно ясно, что в конкретных областях прикладной статистики накоплено большое число результатов, относящихся именно к этим областям. Особенно это касается областей, исследования в которых ведутся сотни лет, в частности, статистики случайных величин (одномерной статистики). Однако принципиально важно указать на "ядро" прикладной статистики - статистику в пространствах произвольной природы. Если постоянно "держать в уме" это ядро, то становится ясно, что, например, многие методы непараметрической оценки плотности вероятности или кластер-анализа, использующие только расстояния между объектами и элементами выборки, относятся именно к статистике объектов произвольной природы, а не к статистике случайных величин или многомерному статистическому анализу. Следовательно, и применяться они могут во всех областях прикладной статистики, а не только в тех, в которых "родились".

Расстояния (метрики). В пространствах произвольной природы нет операции сложения, следовательно, статистические процедуры не могут быть основаны на использовании сумм. Поэтому используется другой математический инструментарий, использующий понятия типа расстояния.

Как известно, расстоянием в пространстве называется числовая функция двух переменных $d(x,y), x\in X, y\in X$ , определенная на этом пространстве, т.е. в стандартных обозначениях $d: X^2 \\rightarrow R^1$ , где R^1 - прямая, т.е. множество всех действительных чисел. Эта функция должна удовлетворять трем условиям (иногда их называют аксиомами):

неотрицательности: $d(x,y) \geq 0$ , причем , для любых значений $x\in X, y\in X$ ;
симметричности: для любых $x\in X, y\in X$ ;
неравенства треугольника: $d(x,y) + d(y,z) \geq d(x,z)$ для любых значений $x\in X, y\in X, z\in X$ .

Для термина "расстояние" часто используется синоним - "метрика".

Пример 1. Если d(x,x) = 0 и d(x,y) = 1 при $x\ne y$ для любых значений $x\in X, y\in X$ , то, как легко проверить, функция d(x,y) - расстояние (метрика). Такое расстояние естественно использовать в пространстве значений номинального признака: если два значения (например, названные двумя экспертами) совпадают, то расстояние равно 0, а если различны - то 1.

Пример 2. Расстояние, используемое в геометрии, очевидно, удовлетворяет трем приведенным выше аксиомам. Если - это плоскость, а х(1) и х(2) - координаты точки $x\in X$ в некоторой прямоугольной системе координат, то эту точку естественно отождествить с двумерным вектором (х(1), х(2)) . Тогда расстояние между точками х = (х(1), х(2)) и у = (у(1), у(2)) согласно известной формуле аналитической геометрии равно

$d(x,y)=\sqrt{(x(1)-y(1))^2+(x(2)-y(2))^2}.$

Пример 3. Евклидовым расстоянием в пространстве R^k векторов вида x = (x(1), x(2), ..., x(k)) и y = (y(1), y(2), ..., y(k)) размерности называется

$d(x,y)= \left( \sum_{j=1}^k (x(j)-y(j))^2 \right)^{1/2}.$

В примере 2 рассмотрен частный случай примера 3 с k = 2 .

Пример 4. В пространстве R^k векторов размерности используют также так называемое "блочное расстояние", имеющее вид

$d(x,y)=\sum_{j=1}^k|x(j)-y(j)|.$

Блочное расстояние соответствует передвижению по городу, разбитому на кварталы горизонтальными и вертикальными улицами. В результате можно передвигаться только параллельно одной из осей координат.

Пример 5. В пространстве функций, элементами которого являются функции $х = x(t), у = y(t), 0\leq t\leq 1$ , часто используют расстояние Колмогорова

$d(x,y)=\sup_{0\leq k\leq 0}|x(t)-y(t)|.$

Пример 6. Пространство функций, элементами которого являются функции $х = x(t), у = y(t), 0\leq t\leq 1$ , превращают в метрическое пространство (т.е. в пространство с метрикой), вводя расстояние

$d_p(x,y)= \left( \int\limits_0^1(x(t)-y(t))^p dt \right)^{1/p}.$

Это пространство обычно обозначают L^p , где параметр $p\geq 1$ (при p < 1 не выполняются аксиомы метрического пространства, в частности, аксиома треугольника).

Пример 7. Рассмотрим пространство квадратных матриц порядка . Как ввести расстояние между матрицами А = ||a(i,j)|| и B = ||b(i,j)|| ? Можно сложить расстояния между соответствующими элементами матриц:

$d(A,B)=\sum_{i=1}^k \sum_{j=1}^k|a(i,j)-b(i,j)|.$

Пример 8. Предыдущий пример наводит на мысль о следующем полезном свойстве расстояний. Если на некотором пространстве определены два или больше расстояний, то их сумма - также расстояние.

Пример 9. Пусть и - множества. Расстояние между множествами можно определить формулой

$a(A,B)=\mu(A\Delta B).$

Здесь $\mu$ - мера на рассматриваемом пространстве множеств, $\Delta$ - символ симметрической разности множеств.

$A\Delta B=(A\setminus B)\bigcup(B\setminus A).$

Если мера - так называемая считающая, т.е. приписывающая единичный вес каждому элементу множества, то введенное расстояние есть число несовпадающих элементов в множествах и .

Пример 10. Между множествами можно ввести и другое расстояние:

$d_1(A,B)=\frac{\mu(A\Delta B)}{\mu(A\cup B)}.$

В ряде задач прикладной статистики используются функции двух переменных, для которых выполнены не все три аксиомы расстояния, а только некоторые. Их обычно называют показателями различия, поскольку чем больше различаются объекты, тем больше значение функции. Иногда в том же смысле используют термин "мера близости". Он менее удачен, поскольку большее значение функции соответствует меньшей близости.

Чаще всего отказываются от аксиомы, требующей выполнения неравенства треугольника, поскольку это требование не всегда находит обоснование в конкретной прикладной ситуации.

Пример 11. В конечномерном векторном пространстве показателем различия является

$d(x,y)=\sum_{j=1}^k(x(j)-y(j))^2$

(сравните с примером 3).

Показателями различия, но не расстояниями являются такие популярные в прикладной статистике показатели, как дисперсия или средний квадрат ошибки при оценивании.

Иногда отказываются также и от аксиомы симметричности.

Пример 12. Показателем различия чисел и является

$d(x,y)= \left| \frac{x}{y}-1 \right|.$

Такой показатель различия используют в ряде процедур экспертного оценивания.

Что же касается первой аксиомы расстояния, то в различных постановках прикладной статистики ее обычно принимают. Вполне естественно, что наименьший показатель различия должен достигаться, причем именно на совпадающих объектах. Имеет ли смысл это наименьшее значение делать отличным от 0? Вряд ли, поскольку всегда можно добавить одну и ту же константу ко всем значениям показателя различия и тем самым добиться выполнения первой аксиомы.

В прикладной статистике используются самые разные расстояния и показатели различия. О них пойдет речь в соответствующих разделах учебника.

Дальше >>

Авторизоваться

Прикладная статистика

Различные виды статистических данных

1.5. Данные и расстояния в пространствах произвольной природы

Вопросы и ответы