Статистика нечисловых данных или, как ее еще называют, статистика объектов нечисловой природы была выделена в нашей стране как самостоятельное научное направление. Как уже отмечалось, термин "статистика объектов нечисловой природы" впервые появился в 1979 г. в монографии []. В том же году в работе [] была сформулирована программа развития этого нового направления прикладной статистики.
Со второй половины 80-х годов существенно возрос интерес к этой тематике и у зарубежных исследователей. Это нашло отражение, в частности, на Первом Всемирном Конгрессе Общества математической статистики и теории вероятностей им. Бернулли, состоявшемся в сентябре 1986 г. в Ташкенте. Статистика объектов нечисловой природы используется в нормативно-технической и методической документации, ее применение позволяет получить существенный технико-экономический эффект (сводка дана, например, в статье []).
Цель настоящего параграфа - ввести в статистику нечисловых данных, выделить ее структуру, указать основные идеи и результаты.
Напомним, что объектами нечисловой природы называют элементы пространств, не являющихся линейными. Примерами являются бинарные отношения (ранжировки, разбиения, толерантности), множества, последовательности символов (тексты). Объекты нечисловой природы нельзя складывать и умножать на числа, не теряя при этом содержательного смысла. Этим они отличаются от издавна используемых в прикладной статистике (в качестве элементов выборок) чисел, векторов и функций.
Прикладную статистику по виду статистических данных принято делить на следующие направления:
При создании теории вероятностей и математической статистики исторически первыми были рассмотрены объекты нечисловой природы - белые и черные шары в урне. На основе соответствующих вероятностных моделей были введены биномиальное, гипергеометрическое и другие
В семидесятых годах ХХ в. в связи с запросами практики весьма усилился интерес к статистическому анализу нечисловых данных. Московская группа, организованная Ю.Н. Тюриным и другими специалистами вокруг созданного в 1973 г. научного семинара "Экспертные оценки и нечисловая статистика", развивала в основном вероятностную статистику нечисловых данных. Были установлены разнообразные связи между различными видами объектов нечисловой природы и изучены свойства этих объектов. Московской группой выпущены десятки сборников и обзоров, перечень которых приведен в итоговой работе []. Хотя в названиях многих из этих изданий стоят слова "экспертные оценки", анализ содержания сборников показывает, что подавляющая часть статей посвящена математико-статистическим вопросам, а не проблемам проведения экспертиз. Частое употребление указанных слов отражает лишь один из импульсов, стимулирующих развитие статистики объектов нечисловой природы и идущих от запросов практики. При этом необходимо подчеркнуть, что полученные результаты могут и должны активно использоваться в теории и практике экспертных оценок.
Новосибирская группа (Г.С. Лбов, Б.Г. Миркин и др.), как правило, не использовала вероятностные модели, т.е. вела исследования в рамках анализа данных. В московской группе в рамках анализа данных также велись работы, в частности, Б.Г.Литваком. Исследования по статистике объектов нечисловой природы выполнялись также в Ленинграде, Ереване, Киеве, Таллинне, Тарту, Красноярске, Минске, Днепропетровске, Владивостоке, Калинине и других отечественных научных центрах.
Внутреннее деление статистики объектов нечисловой природы. Внутри рассматриваемого направления прикладной статистики выделяют следующие области.
Единство рассматриваемому направлению придает прежде всего вторая составляющая, позволяющая с единой точки зрения подходить к статистическим задачам описания данных, оценивания, проверки гипотез при рассмотрении выборки, элементы которой имеют ту или иную конкретную природу. Внутри первой составляющей рассматривают:
Перечисленные разделы тесно связаны друг с другом, как продемонстрировано, в частности, в работах [, ] и предыдущих лекциях настоящего курса. Вне данного перечня остались работы по хорошо развитым классическим областям - статистическому контролю, таблицам сопряженности, а также по анализу текстов и некоторые другие (см. [, , ]). Таким образом, кратко рассмотрим постановки вероятностной статистики объектов нечисловой природы (1970-2005 гг.), чтобы представить как единое целое это направление прикладной статистики.
Статистика в пространствах общей природы. Пусть $$x_1,x_2,...,x_n$$ - элементы пространства $$X$$, не являющегося линейным. Как определить среднее значение для $$x_1,x_2,...,x_n$$? Поскольку нельзя складывать элементы $$X$$ и сравнивать их по величине, то необходимы подходы, принципиально новые по сравнению с классическими. В статистике объектов нечисловой природы предложено использовать показатель различия $$d:X^2\rightarrow[0;+\infty)$$ (содержательный смысл показателя различия: чем больше $$d(x,y)$$, тем больше различаются $$x$$ и $$y$$ ) и определять эмпирическое среднее как решение экстремальной задачи$$E_n(d)=Arg\min\left\{\sum_{1\le i\le n}d(x_i,x), x\in X\right\}.$$
Таким образом, среднее $$E_n(d)$$ - это совокупность всех тех $$x\in X$$, для которых функция$$f_n(x)=\frac{1}{n}\sum_{1\le i\le n}d(x_i,x)$$ достигает минимума на $$X$$.
Как известно, для классического случая $$X = R^1$$ при $$d(x,y) = (x-y)^2$$ имеем $$E_n(d) = \overline{x}$$. При $$X = R^1, d(x,y)=|x-y|$$ среднее $$E_n(d)$$ при нечетном объеме выборки совпадает с выборочной медианой. А при четном объеме - $$E_n(d)$$ является отрезком с концами в двух средних элементах вариационного ряда.
Для ряда конкретных объектов среднее как решение экстремальной задачи вводилось рядом авторов. В 1929 г. итальянские статистики Джини и Гальвани применили такой подход для усреднения точек на плоскости и в пространстве. Американский исследователь Джон Кемени решение задачи (1) называл медианой или средним для выборки, состоящей из ранжировок (см. монографию []). При моделировании лесных пожаров согласно выражению (1) было введено "среднеуклоняемое множество" для описания средней выгоревшей площади (см. об этом в монографии []). Общее определение эмпирических средних вида (1) было впервые введено в работе [].
Основной результат, связанный со средними вида (1) - аналог закона больших чисел. Пусть $$x_1,x_2,..., x_n$$ - независимые одинаково распределенные случайные элементы со значениями в пространстве общей природы $$X$$. Теоретическим средним, или математическим ожиданием, в статистике объектов нечисловой природы называют$$E_n(x_1,d)=Arg\min\{Md(x_1,x),x\in X\}.$$
Закон больших чисел состоит в сходимости $$E_n(d)$$ к $$E_n(x_1,d)$$ при $$n\rightarrow\infty$$. Поскольку и эмпирическое, и теоретическое средние - множества, то понятие сходимости требует уточнения.
Одно из возможных уточнений, впервые введенное в работе [], таково. Для функции$$f(x)=M(d)(x_1(\omega),x), f:X\rightarrow R^1,$$ введем понятие " $$\varepsilon$$ -пятки" ( $$\varepsilon>0$$ )$$K_{\varepsilon}(f)=\{x\in X:f(x)<\inf\{f(y),y\in X\}+\varepsilon\}.$$
Очевидно, $$\varepsilon$$ -пятка $$f$$ - это окрестность $$Arg\min(f)$$ (если он достигается), заданная в терминах минимизируемой функции. Тем самым снимается вопрос о выборе метрики в пространстве $$X$$. Тогда при некоторых условиях регулярности для любого $$\varepsilon>0$$ вероятность события$$\{\omega:E_n(d)\subseteq\K_{\varepsilon}(f)}$$ стремится к 1 при $$n\rightarrow\infty$$, т.е. справедлив закон больших чисел. Подробное доказательство приведено в лекции 5.
Естественное обобщение рассматриваемой задачи позволяет построить общую теорию оптимизационного подхода в статистике. Как известно, большинство задач прикладной статистики может быть представлено в качестве оптимизационных. Как себя ведут решения экстремальных задач? Частные случаи этой постановки: как ведут себя при росте объема выборки
Обычно легко устанавливается, что для некоторых пространств $$X$$ и последовательности случайных функций $$f_n(x)$$ при $$n\rightarrow\infty$$ найдется функция $$f(x)$$ такая, что$$f_n(x)\rightarrow f(x)$$ для любого $$x\in X$$ (сходимость по вероятности). Требуется вывести отсюда, что$$Arg\min f_n(x)\rightarrow Arg\min f(x),$$ т.е. решения экстремальных задач также сходятся. Понятие сходимости в соотношении (8) уточняется, например, с помощью $$\varepsilon$$ -пяток, как это сделано выше для закона больших чисел. Условия регулярности, при которых справедливо предельное соотношение (8), приведены в исследовании []. Практически для всех реальных задач эти условия выполняются.
Как оценить распределение случайного элемента в пространстве общей природы? Поскольку понятие функции распределения неприменимо, естественно использовать непараметрические оценки плотности. Что такое плотность распределения вероятностей в пространстве произвольной природы? Это функция $$g:X\rightarrow[0;+\infty)$$ такая, что для любого измеримого множества (т.е. случайного события) $$A\subseteq X$$ справедливо соотношение$$P(x_1(\omega)\in A)=\int\limits_A g(x)\mu(dx),$$ где $$\mu$$ - некоторая мера в $$X$$. Ряд непараметрических оценок плотности был предложен в работе []. Например, ядерной оценкой плотности является оценка$$g_n(x)=\frac{1}{\nu(h_n,x)}\sum_{1\le i\le n} H\left(\frac{d(x_i,x)}{h_n}\right),$$
где $$d$$ - показатель различия; $$H$$ - ядерная функция; $$h_n$$ - последовательность положительных чисел; $$\nu(h_n, x)$$ - нормирующий множитель. Удалось установить, что статистики типа (10) обладают такими же свойствами, по крайней мере при фиксированном $$x$$, что и их классические аналоги при $$X = R^1$$. В частности, такой же скоростью сходимости. Некоторые изменения необходимы при рассмотрении дискретных $$X$$, каковыми являются многие пространства конкретных объектов нечисловой природы (см. лекцию 5). С помощью непараметрических оценок плотности можно развивать регрессионный анализ, дискриминантный анализ и другие направления в пространствах общей природы.
Для проверки гипотез согласия, однородности, независимости в пространствах общей природы могут быть использованы статистики интегрального типа$$\int f_n(x,\omega)dF_n(x,\omega),$$ где $$f_n(x,\omega)$$ - последовательность случайных функций на $$X; F_n(x,\omega)$$ - последовательность случайных распределений (или зарядов). Обычно $$f_n(x,\omega)$$ при $$n\rightarrow\infty$$ сходится по распределению к некоторой случайной функции $$f(x,\omega)$$, а $$F_n(x,\omega)$$ - к распределению $$F(x)$$. Тогда распределение статистики интегрального типа (11) сходится к распределению случайного элемента$$\int f(x,\omega)dF(x).$$
Условия, при которых это справедливо, даны в ]. Пример применения - вывод предельного распределения статистики типа омега-квадрат для проверки симметрии распределения (см. лекцию 8).
Перейдем к статистике конкретных видов объектов нечисловой природы.
Теория измерений. Цель теории измерений - борьба с субъективизмом исследователя при приписывании численных значений реальным объектам. Так, расстояния можно измерять в верстах, аршинах, саженях, метрах, микронах, милях, парсеках и других единицах измерения. Выбор единиц измерения зависит от исследователя, т.е. субъективен. Статистические выводы могут быть адекватны реальности только тогда, когда они не зависят от того, какую именно единицу измерения предпочтет исследователь, т.е. когда они инвариантны относительно допустимого преобразования шкалы.
Теория измерений известна в нашей стране уже более 30 лет. С начала семидесятых годов активно работают отечественные исследователи. В настоящее время изложение основ теории измерений включают в справочные издания, помещают в научно-популярные журналы и книги для детей. Однако она еще не стала общеизвестной среди специалистов, в частности, среди метрологов. Поэтому опишем одну из задач теории измерений (см. лекцию 8).
Как известно, шкала задается группой допустимых преобразований (прямой в себя). Номинальная шкала (шкала наименований) задается группой всех взаимнооднозначных преобразований, шкала порядка - группой всех строго возрастающих преобразований. Это - шкалы качественных признаков. Группа линейных возрастающих преобразований $$\varphi(x)=ax+b,a>0$$, задает шкалу интервалов. Группа $$\varphi(x)=ax,a>0$$ определяет шкалу отношений. Наконец, группа, состоящая из одного
Практическую пользу теории измерений обычно демонстрируют на примере задачи сравнения средних значений для двух совокупностей одинакового объема $$x_1, x_2,...,x_n$$ и $$y_1, y_2,...,y_n$$. Пусть среднее вычисляется с помощью функции $$f:R^n\rightarrow R^1$$. Если$$f(x_1, x_2,...,x_n)<f(y_1, y_2,...,y_n),$$ то необходимо, чтобы$$f(\varphi(x_1),\varphi(x_2),...,\varphi(x_n))<f(\varphi(y_1),\varphi(y_2),...,\varphi(y_n))$$ для любого допустимого преобразования $$\varphi$$ из задающей шкалу группы $$\Phi$$. (В противном случае результат сравнения будет зависеть от того, какое из эквивалентных представлений шкалы выбрал исследователь.)
Требование равносильности неравенств (13) и (14) вместе с некоторыми условиями регулярности приводят к тому, что в порядковой шкале в качестве средних можно использовать только члены вариационного ряда, в частности, медиану, но нельзя использовать среднее геометрическое, среднее арифметическое, и т.д. В количественных шкалах это требование выделяет из всех обобщенных средних по А.Н. Колмогорову в шкале интервалов - только среднее арифметическое, а в
Приведенные результаты о средних величинах применялись, например, при проектировании системы датчиков в АСУ ТП доменных печей. Велико прикладное значение теории измерений в задачах стандартизации и управления качеством, в частности, в квалиметрии. Так, В.В. Подиновский показал, что любое изменение коэффициентов весомости единичных показателей качества продукции приводит к изменению упорядочения изделий по средневзвешенному показателю, а Н.В. Хованов развил одну из возможных теорий
Статистика бинарных отношений. Оценивание центра распределения случайного бинарного отношения проводят обычно с помощью медианы Кемени. Состоятельность вытекает из закона больших чисел []. Разработаны различные вычислительные процедуры нахождения медианы Кемени.
Методы проверки гипотез развиты отдельно для каждой разновидности бинарных отношений. В области статистики ранжировок, или ранговой корреляции, классической является книга Кендалла []. Современные достижения отражены в работах Ю.Н. Тюрина и Д.С. Шмерлинга. Статистика случайных разбиений развита А.В. Маамяги. Статистика случайных толерантностей (рефлексивных симметричных отношений) впервые изложена в работе []. Многие ее задачи являются частными случаями задач теории люсианов.
Теория люсианов (бернуллиевских векторов). Люсиан (бернуллиевский вектор) - это последовательность
В рассматриваемой теории изучают методы проверки согласованности (одинаковой распределенности), однородности двух выборок, независимости люсианов. Методы проверки указанных гипотез нацелены на ситуацию, когда число бернуллиевских векторов фиксировано, а их длина растет. При этом число неизвестных параметров возрастает пропорционально объему данных, т.е. теория построена в асимптотике растущего числа параметров. Ранее подобная асимптотика под названием асимптотики А.Н. Колмогорова использовалась в дискриминантном анализе, но там применялись совсем другие методы для решения иных задач прикладной статистики.
Непараметрическая теория парных сравнений (в предположении независимости результатов отдельных сравнений) - часть теории бернуллиевских векторов. Параметрическая теория связана в основном с попытками выразить вероятности того или иного исхода через значения гипотетических или реальных параметров сравниваемых объектов. Известны модели Терстоуна, Бредли-Терри-Льюса и др. В нашей стране построен ряд новых моделей парных сравнений. В частности, имеются модели парных сравнений с тремя исходами (больше, меньше, неразличимо), модели зависимых сравнений, сравнений нескольких объектов (сближающие рассматриваемую область с теорией случайных ранжировок) и т.д.
Статистика случайных и нечетких множеств. Давнюю историю имеет статистика случайных геометрических объектов (отрезков, треугольников, кругов и т.д.). Современная теория случайных множеств сложилась при изучении пористых сред и объектов сложной природы в таких областях, как металлография, петрография, биология. Различные направления внутри этой теории рассмотрены в работе [, гл.4]. Остановимся на двух.
Случайные множества, лежащие в евклидовом пространстве, можно складывать: сумма множеств $$A$$ и $$B$$ - это объединение всех векторов $$x+y$$, где $$x\in A, y\in B$$ Н.Н. Ляшенко получил аналоги законов больших чисел, Центральной предельной теоремы, ряда методов прикладной статистики, систематически используя подобные суммы.
Для статистики объектов нечисловой природы интереснее подмножества пространств, не являющихся линейными. В работе [] рассмотрены некоторые задачи теории конечных случайных множеств. Позже ряд интересных результатов получил С.А. Ковязин, в частности, он доказал нашу гипотезу о справедливости закона больших чисел при использовании расстояния между множествами$$d(a,b)=\mu(A\Delta B),$$ где $$\mu$$ - некоторая мера; $$\Delta$$ - знак симметрической разности. Расстояние (15) выведено из некоторой системы аксиом в монографии []. Прикладники также делают попытки развивать и применять методы статистики случайных множеств.
С теорией случайных множеств тесно связана теория нечетких множеств, начало которой положено статьей Л.А. Заде в 1965 г. Это направление прикладной математики получило бурное развитие - к настоящему времени число публикаций измеряется десятками тысяч, выпускаются международные журналы, постоянно проводятся конференции, практические приложения дали ощутимый технико-экономический эффект. При изложении теории нечетких множеств обычно не подчеркивается связь с вероятностными моделями. Между тем еще в первой половине 1970-х годов было установлено [], что теория нечеткости в определенном смысле сводится к теории случайных множеств, хотя эта связь, возможно, имеет лишь теоретическое значение (см. 4.6).
С точки зрения статистики нечисловых данных нечеткие множества - лишь один из видов объектов нечисловой природы. Поэтому к ним применима общая теория, развитая для пространств произвольной природы. Имеются работы, в которых совместно используются соображения вероятности и нечеткости [].
Многомерное шкалирование и аксиоматическое введение метрик. Многомерное шкалирование имеет целью представление объектов точками в пространстве небольшой размерности (1-3) с максимально возможным сохранением расстояний между точками (см. 9.6).
Из сказанного выше ясно, какое большое место занимают в статистике объектов нечисловой природы метрики (расстояния). Как их выбрать? Предлагают выводить вид метрик из некоторых систем аксиом. Аксиоматически получена метрика в пространстве ранжировок, которая оказалась линейно связанной с коэффициентом ранговой корреляции Кендалла. Метрика (15) в пространстве множеств получена в работе [] также исходя из некоторой системы аксиом. Г.В. Раушенбахом [] дана сводка по аксиоматическому подходу к введению метрик в пространствах нечисловой природы. К настоящему времени практически для каждой используемой в прикладных работах метрики удалось подобрать систему аксиом, из которой чисто математическими средствами можно вывести именно эту метрику.
Применения статистики объектов нечисловой природы. Идеи, подходы, результаты статистики объектов нечисловой природы оказались полезными и в классических областях прикладной статистики. Статистика в пространствах общей природы позволила с единых позиций рассмотреть всю прикладную статистику, в частности, показать, что регрессионный, дисперсионный и дискриминантный анализы являются частными случаями общей схемы регрессионного анализа в пространстве произвольной природы. Поскольку структура модели - объект нечисловой природы, то ее оценивание, в частности, оценивание степени полинома в регрессии, также относится к статистике нечисловых данных. Если учесть, что результаты измерения всегда имеют погрешности, т.е. являются не числами, а интервалами или нечеткими множествами, то приходим к необходимости пересмотреть некоторые выводы теоретической статистики. Например, отсутствует состоятельность оценок, нецелесообразно увеличивать объем выборок сверх некоторого предела (см. лекцию 12).
Технико-экономическая эффективность от применения методов статистики нечисловых данных достаточно высока. К сожалению, из-за изменения экономической ситуации, в частности, из-за инфляции трудно сопоставить конкретные экономические результаты в разные моменты времени. Кроме того, методы статистики объектов нечисловой природы составляют часть методов прикладной статистики. А те, в свою очередь - часть методов, входящих в систему информационной поддержки принятия решений на предприятии. Какую часть приращения прибыли предприятия надо отнести на эту систему? Мы знаем, как работает система управления фирмой в настоящем виде. Но можем только гадать (а точнее, оценивать, скорее всего, с помощью экспертных оценок), каковы были бы результаты финансово-хозяйственной деятельности предприятия, если бы система управления фирмой была бы иной, например, не содержала методов статистики объектов нечисловой природы.
Статистика объектов нечисловой природы как часть прикладной статистики продолжает бурно развиваться. В частности, увеличивается количество ее практически полезных применений при анализе конкретных экономических данных - в маркетинговых исследованиях, контроллинге, при управлении предприятием и др.
В прикладных исследованиях обычно используют три конкретных вида бинарных отношений - ранжировки, разбиения и толерантности. Статистические теории ранжировок [] и разбиений [] достаточно сложны с математической точки зрения. Поэтому продвинуться удается не очень далеко. Теория случайных ранжировок, в частности, изучает в основном равномерные распределения на множестве ранжировок. Теория случайных толерантностей позволяет рассмотреть более общие ситуации. Это объясняется, грубо говоря, тем, что для теории толерантностей оказываются полезными суммы некоторых независимых случайных величин, а для теории ранжировок и разбиений аналогичные случайные величины зависимы. Теория случайных толерантностей является частным случаем теории люсианов, рассматриваемой в 11.3. Здесь приводим результаты, специфичные именно для толерантностей.
Пусть $$X$$ - конечное множество из $$k$$ элементов. Толерантность $$A$$ на множестве $$X$$, как и любое бинарное отношение, однозначно описывается матрицей $$||a(i, j), 1\le i, j \le k ||$$, где $$a(i, j) = 1$$, если элементы с номерами $$i$$ и $$j$$ связаны отношением толерантности, и $$a(i, j) = 0$$ в противном случае. Поскольку толерантность - это рефлексивное и симметричное бинарное отношение, то достаточно рассматривать часть матрицы, лежащую над
Пусть $$A = A(\omega)$$ - случайная толерантность, равномерно распределенная на множестве всех толерантностей на $$X$$. Легко видеть, что в этом случае $$a(i, j), 1 \le i<j \le k$$, - независимые случайные величины, принимающие значения 0 и 1 с вероятностями 0,5. Этот факт, несмотря на свою математическую тривиальность, является решающим для построения теории случайных толерантностей. Для аналогичных постановок в теории ранжировок и разбиений величины $$a(i, j)$$ оказываются зависимыми.
Следовательно, случайная величина$$B(A)=\sum_{i=1}^k\sum_{j=1}^k a(i,j)$$
имеет
Проверка гипотез о согласованности. Рассмотрим $$s$$ независимых толерантностей $$A_1, A_2, ..., A_s$$, равномерно распределенных на множестве всех толерантностей на $$X$$. Рассмотрим вектор$$\xi_{ks}=\{d(A_p,A_q),1\le p<q\le s\} = \sum_{1\le i<j\le s}\{|a_p(i,j)-a_q(i,j)|,1\le p<q\le s\},$$ где $$d(A_p, A_q)$$ - расстояние между толерантностями $$A_p$$ и $$A_q$$, аксиоматически введенное в лекции 1. В (1) предполагается, что пары $$(p, q), p < q$$, располагаются в раз и навсегда установленном порядке, для определенности - в лексиграфическом (т.е. пары упорядочиваются в соответствии со значением $$p$$, а при одинаковых $$p$$ - по значению $$q$$ ).
Вектор $$\xi_{ks}$$ является суммой $$k(k-1)/2$$ независимых одинаково распределенных случайных векторов, а потому асимптотически нормален при $$k\rightarrow\infty$$. Координаты этого вектора независимы, поскольку, как нетрудно видеть, координаты каждого слагаемого независимы (это свойство не сохраняется при отклонении от равномерности распределения). Распределения случайных величин $$a_p(i,j)$$ и $$|a_p(i,j)-a_q(i,j)|$$ совпадают, поэтому распределения $$B(A)$$ и $$d(A_p, A_q)$$ также совпадают.
В силу многомерной центральной предельной теоремы (лекция 4) распределение вектора$$\eta_{ks}=\sqrt{\frac{2}{k(k-1)}}\left(\xi_{rs}-\frac{k(k-1)}{2}\left(\frac12,\frac12,...,\frac12\right)\right)$$ сходится при $$k\rightarrow\infty$$ к распределению многомерного нормального вектора $$\eta_s$$, ковариационная матрица которого совпадает с ковариационной матрицей вектора $$\eta_{ks}$$, а математическое ожидание равно 0. Таким образом, координаты случайного вектора $$\eta_s$$ независимы и имеют стандартное нормальное распределение с математическим ожиданием 0 и дисперсией 1. В соответствии с теоремами о наследовании сходимости (лекция 4) распределение $$f(\eta_{ks})$$ сходится при $$k\rightarrow\infty$$ к распределению $$f(\eta_s)$$ для достаточно широкого класса функций $$f$$, в частности, для всех непрерывных функций. В качестве примеров рассмотрим статистики$$W=\sum_{1\le p<q\le s}d(A_p,A_q),N=\sum_{1\le p<q\le s}\left(d(A_p,A_q)-\frac{k(k-1)}{4}\right)^2.$$
При $$k\rightarrow\infty$$ распределения случайных величин$$\frac{8W-s(s-1)k(k-1)}{2\sqrt{s(s-1)k(k-1)}},\frac{8N}{k(k-1)}$$ сходятся соответственно к стандартному нормальному распределению с математическим ожиданием 0 и дисперсией 1 и распределению хи-квадрат с $$s(s - 1)/2$$ степенями свободы. Статистики $$W$$ и $$N$$ могут быть использованы для проверки гипотезы о равномерности распределения толерантностей.
Как известно, в теории ранговой корреляции [], т.е. в теории случайных ранжировок, в качестве единой выборочной меры связи нескольких признаков используется коэффициент согласованности $$W(R)$$, называемый также коэффициентом конкордации [, табл.6.10]. Его распределение затабулировано в предположении равномерности распределения на пространстве ранжировок (без связей). Непосредственным аналогом $$W(R)$$ в случае толерантностей является статистика $$W$$. Статистики $$W$$ и $$N$$ играют ту же роль для толерантностей, что $$W(R)$$ для ранжировок, однако математико-статистическая теория в случае толерантностей гораздо проще, чем для ранжировок.
Обобщением равномерно распределенных толерантностей являются толерантности с независимыми связями. В этой постановке предполагается, что $$a(i,j), 1\le i<j\le k$$, - независимые случайные величины, принимающие значения 0 и 1. Обозначим $$P(a(i,j) = 1) = p(i,j)$$. Тогда $$P(a(i,j)=0)=1-p(i,j)$$. Таким образом, распределение толерантности с независимыми связями задается нечеткой толерантностью, т.е. вектором$$P=\{p(i,j),1\le i<j\le k\}.$$
Пусть имеется $$s$$ независимых случайных толерантностей $$A_1, A_2, ..., A_s$$ с независимыми связями, распределения которых задаются векторами $$P_1, P_2, ..., P_s$$ соответственно. Рассмотрим проверку гипотезы согласованности$$H_0:P_1=P_2=...=P_s.$$
Она является более слабой, чем гипотеза равномерности$$H'_0: P_1 = P_2 =...= P_s =(1/2, 1/2, ..., 1/2),$$ для проверки которой используют статистики $$W$$ и $$N$$ (см. выше).
Пусть сначала $$s = 2$$. Тогда$$P\{|a_1(i,j)-a_2(i,j)|=1\}=q(i,j),P\{|a_1(i,j)-a_2(i,j)|=0\}=1-q(i,j),$$ где$$q(i,j)=p_1(i,j)(1-p_2(i,j))+p_2(i,j)(1-p_1(i,j)).$$
Следовательно, расстояние $$d(A_1, A_2)$$ между двумя случайными толерантностями с независимыми связями есть сумма $$k(k - 1)/2$$ независимых случайных величин, принимающих значения 0 и 1, причем математическое ожидание и дисперсия $$d(A_1, A_2)$$ таковы:$$MD(A_1,A_2)=\sum_{1\le i<j\le k} q(i,j), Dd(A_1,A_2)= \sum_{1\le i<j\le k} q(i,j)(1-q(i,j)).$$
Пусть $$k\rightarrow\infty$$. Если $$Dd(A_1, A_2)\rightarrow\infty$$, то условие Линденберга Центральной предельной теоремы теории вероятностей выполнено (см. лекцию 4), и распределение нормированного расстояния$$\frac{d(A_1,A_2)-Md(A_1,A_2)}{\sqrt{Dd(A_1,A_2)}}$$ сходится к стандартному нормальному распределению с математическим ожиданием 0 и дисперсией 1. Если существует число $$\delta>0$$ такое, что при всех $$k, i, j, 1\le i<j\le k$$, вероятности $$p_1(i, j)$$ и $$p_2(i, j)$$ лежат внутри интервала $$(\delta; 1 - \delta)$$, то $$Dd(A_1, A_2) \rightarrow\infty$$.
Соотношения (2), (3) и им подобные позволяют рассчитать
Обычно $$P_1$$ и $$P_2$$ неизвестны. Для проверки гипотезы $$P_1 = P_2$$ в некоторых случаях можно порекомендовать отвергать гипотезу на уровне значимости $$\alpha$$, если $$d(A_1, A_2)\ge d_0$$, где $$d_0$$ есть $$(1-\alpha)$$ -
Пусть$$p =(p_1(i,j) + p_2(i,j))/2, p_1(i,j) = p + \Delta,$$ тогда$$p_2(i,j) = p - \Delta, q= q(i, j) = 2p(1 - p) + 2\Delta^2.$$
Если существует число $$\delta>0$$ такое, что$$q-1/2>\delta>0$$ при всех $$k, i, j$$, то гипотеза $$P_1 = P_2$$ будет отвергаться с вероятностью, стремящейся к 1 при $$k\rightarrow\infty$$. Из (4) следует, что при фиксированном $$p$$ существует $$\Delta$$ такое, что выполнено (5), тогда и только тогда, когда $$0,25<p<0,75$$.
Своеобразие постановки задачи проверки гипотезы состоит в том, что при росте $$k$$ число неизвестных параметров, т.е. координат векторов $$P_i$$, растет пропорционально объему данных. Поэтому и столь далекая от оптимальности процедура, как описанная в двух предыдущих абзацах, представляет некоторый практический интерес. Для случая $$s\ge 4$$ в теории люсианов (11.3) разработаны методы проверки гипотезы согласованности $$H_0: P_1 = P_2 =...= P_s$$.
Нахождение группового мнения. Пусть $$A_1, A_2, ..., A_s$$ - случайные толерантности, описывающие мнения $$s$$ экспертов. Для нахождения группового мнения будем использовать медиану Кемени, т.е. эмпирическое среднее относительно расстояния, введенного в лекции 1. Медианой Кемени является$$A_{cp}=Arg\min_A\sum_{p=1}^s d(A_p,A).$$
Легко видеть, что $$A_{cp}=||a_{cp}(i,j)||$$ удовлетворяет условию: $$a_{cp}(i,j)=1$$, если$$\sum_{p=1}^s a_p(i,j)>\frac{s}{2},$$ и $$a_{cp}(i,j)=0$$, если$$\sum_{p=1}^s a_p(i,j)<\frac{s}{2}.$$
Следовательно, при нечетном $$s$$ групповое мнение $$A_{cp}$$ определяется однозначно. При четном $$s$$ неоднозначность возникает в случае$$\sum_{p=1}^s a_p(i,j)=\frac{s}{2}.$$
Тогда медиана Кемени $$A_{cp}$$ - не одна толерантность, а множество толерантностей, минимум суммы расстояний достигается и при $$a_{cp}(i,j)=1$$, и при $$a_{cp}(i,j)=0$$.
Асимптотическое поведение группового мнения (медианы Кемени для толерантностей) вытекает из общих результатов о законах больших чисел в пространствах произвольной природы (лекция 5), поэтому рассматривать его здесь нет необходимости.
Дихотомические (бинарные) признаки в классической асимптотике. Многое в предыдущем изложении определялось спецификой толерантностей. В частности, особая роль равномерности распределения на множестве всех толерантностей оправдывала специальное рассмотрение статистик $$W$$ и $$N$$ ; аксиоматически введенное расстояние $$d$$ между толерантностями играло важную роль в приведенных выше результатах. Однако модель толерантностей с независимыми связями уже меньше связана со спецификой толерантностей. В ней толерантности можно рассматривать просто как частный случай люсианов. Широко применяется следующая модель порождения данных.
Пусть $$A_1, A_2, ..., A_s$$ - независимые люсианы. Это значит, что статистические данные имеют вид$$(A_1, A_2, ..., A_s) = ||X_{ij}, i=1,2,...,s; j = 1, 2, ..., k||,$$
где $$X_{ij}$$ - независимые в совокупности
Как обычно в математической статистике, содержательные результаты при изучении модели (6) - (7) можно получить в асимптотических постановках. При этом есть два принципиально разных предельных перехода: $$s\rightarrow\infty$$ и $$k\rightarrow\infty$$. Первый из них - традиционный: число неизвестных параметров постоянно,
Вторая постановка изучается в следующем параграфе, посвященном люсианам. Некоторые задачи в первой постановке рассмотрим здесь.
Случайные толерантности используются, в частности, для оценки нечетких толерантностей []. Для описания результатов опроса группы экспертов о сходстве объектов строят нечеткую толерантность $$M=||\mu_{ij}||, \mu_{ij}=l_{ij}/n_{ij}$$, где $$n_{ij}$$ - число ответов о сходстве $$i$$ -го и $$j$$ -го объектов, а $$l_{ij}$$ - число положительных ответов из них. Если эксперты действуют в соответствии с единым вектором параметров $$P$$, то $$М$$ - состоятельная оценка для $$P$$. Следующий вопрос при таком подходе - верно ли, что две группы экспертов "думают одинаково", т.е. используют совпадающие вектора $$P$$? Рассмотрим эту постановку на более общем языке люсианов.
Пусть $$A_1, A_2, ..., A_m$$ и $$B_1, B_2, ..., B_n$$ - независимые в совокупности люсианы, одинаково распределенные в каждой группе с параметрами $$P(A)$$ и $$P(B)$$ соответственно. Требуется проверить гипотезу $$P(A) = P(B)$$. Естественным является переход к пределу при $$\min(m,n)\rightarrow\infty$$.
Пусть гипотеза справедлива. Предположим, что $$p_i = p_i(A) = p_i(B) \ne 0$$ при всех $$i = 1, 2, ..., k$$. (Разбор нарушений этого условия очевиден.) Пусть $$s_i$$ - число единиц на $$i$$ -м месте в первой группе люсианов, а $$t_i$$ - во второй. Рассмотрим случайные величины$$\xi_i=\frac{mn}{m+n}\left(\frac{s_i}{m}-\frac{t_i}{n}\right)\frac{1}{\sqrt{p_i(1-p_i)}}.$$
Они независимы в совокупности. В соответствии с результатами , с.529]$$p_i^*=\frac{s_i+t_i}{m+n}.$$
Подставим (9) в (8), получим статистики$$\xi_i^*=\sqrt{\frac{mn(m+n)}{(s_i+t_i)(m+n-s_i-t_i)}}\left(\frac{s_i}{m}-\frac{t_i}{n}\right).$$
Полученные статистики можно использовать для проверки рассматриваемой гипотезы, например, с помощью критериев, основанных на статистиках$$W=\frac{1}{\sqrt{k}}\sum_{i=1}^k a_i\xi_i^*,\; T\sum_{i=1}^k(\xi_i^*)^2,\;\sum_{i=1}^k a_i^2=1.$$
С помощью результатов лекции 4 получаем, что $$W$$ имеет в пределе при $$\min(m, n)\rightarrow\infty$$ стандартное нормальное распределение, а $$T$$ - распределение хи-квадрат с $$k$$ степенями свободы.
Рассмотрим распределение статистики $$W$$ при альтернативных гипотезах. Положим \eta_{1m}^i= \frac{\sqrt{m}\left(\frac{s_i}{m}-p_i(A)\right)}{\sqrt{p_i(A)(1-p_i(A))}},\; \eta_{2n}^i= \frac{\sqrt{n}\left(\frac{t_i}{n}-p_i(B)\right)}{\sqrt{p_i(B)(1-p_i(B))}}.
Эти случайные величины независимы, распределение каждой из них при $$\min(m, n)\rightarrow\infty$$ сходится к стандартному нормальному распределению. Поскольку$$\frac{s_i}{m}=\frac{\eta_{1m}^i}{\sqrt{m}}\frac{p_i(A)(1-p_i(A))}+p_i(A), \frac{t_i}{n}=\frac{\eta_{2n}^i}{\sqrt{n}}\frac{p_i(B)(1-p_i(B))}+p_i(B),$$ то$$\sqrt{\frac{mn}{m+n}}\left(\frac{s_i}{m}-\frac{t_i}{n}\right)=F+G,$$ где$$F=\frac{mn}{m+n} \left( \frac{\eta_{1m}^i}{\sqrt{m}}\sqrt{p_i(A)(1-p_i(A))}- \frac{\eta_{2n}^i}{\sqrt{n}}\sqrt{p_i(B)(1-p_i(B))} \right)$$ и$$G=\frac{mn}{m+n}(p_i(A)-p_i(B)).$$
В силу результатов лекции 4 распределение $$F$$ при $$\min(m, n)\rightarrow\infty$$ сближается с нормальным распределением, математическое ожидание которого равно 0, а дисперсия$$\frac{n}{m+n}p_i(A)(1-p_i(A))+\frac{m}{m+n}p_i(B)(1-p_i(B))\le\frac14.$$
Поэтому, чтобы получить собственное (т.е. невырожденное) распределение $$W$$ при альтернативах, естественно рассмотреть модель$$p_i(A)=p_i+\frac{\theta_i}{2}\sqrt{\frac{m+n}{mn}}\sqrt{p_i(1-p_i)},\; p_i(B)=p_i-\frac{\theta_i}{2}\sqrt{\frac{m+n}{mn}}\sqrt{p_i(1-p_i)},\; i=1,2,...,k,$$ где $$\theta_i$$ - некоторые фиксированные числа. Тогда при $$\min(m, n)\rightarrow\infty$$ оценки $$p_i^*$$ из (9) сходятся к $$p_i$$ и $$\xi_i^*$$ являются независимыми асимптотически нормальными случайными величинами с математическими ожиданиями $$\theta_i$$ и единичными дисперсиями. Опираясь на результаты лекции 4, заключаем, что распределение статистики $$W$$ сходится к нормальному распределению с математическим ожиданием$$\theta_0=\frac{1}{\sqrt{k}}\sum_{i=1}^k a_i\theta_i$$ и единичной дисперсией.
Если в последней формуле $$\theta_0 = 0$$, то асимптотическое распределение $$W$$ таково же, как и в случае справедливости нулевой гипотезы. От указанного недостатка свободна статистика $$T$$. Тем же путем, как и для $$W$$, получаем, что при $$\min(m, n)\rightarrow\infty$$ распределение $$T$$ сходится к нецентральному хи-квадрат распределению с $$k$$ степенями свободы и параметром нецентральности$$\Theta=\sum_{i=1}^k\theta_i^2.$$
Можно рассматривать ряд других задач, например, проверку совпадения параметров для нескольких групп люсианов (аналог
Асимптотика растущей размерности и проверяемые гипотезы. Продолжим изучение модели порождения данных (6) - (7) предыдущего параграфа. Будем использовать асимптотику $$s = \text{const}, k\rightarrow\infty$$. При этом число неизвестных параметров растет пропорционально объему данных.
В последние десятилетия (с начала 1970-х годов) в прикладной статистике все большее распространение получают постановки, в которых число неизвестных параметров растет вместе с объемом выборки. Результаты, полученные в подобных постановках, называют найденными "в асимптотике растущей размерности" или "в асимптотике А.Н.Колмогорова" [], перенося терминологию исследований по дискриминантному анализу на общий случай. Как известно, в задаче дискриминации в две совокупности академик АН СССР А.Н. Колмогоров (1903 - 1987) предложил рассматривать асимптотику$$A\rightarrow\infty, N_i\rightarrow\infty, \frac{A}{N_i}\rightarrow\lambda_i>0, i=1,2,$$
где $$A$$ - размерность пространства (число признаков), $$N_i$$ - объемы обучающих выборок, $$\lambda_i$$ - константы, $$i = 1,2$$. Эта асимптотика естественна при обработке организационно-экономических, социологических, медицинских данных, поскольку число признаков, определяемых для каждого изучаемого объекта, респондента или пациента, обычно имеет тот же порядок, что и
Пусть $$A_1, A_2, ..., A_s$$ - независимые (между собой) люсианы с векторами параметров $$P_1, P_2, ..., P_s$$ соответственно. Гипотезой согласованности будем называть гипотезу$$P_1=P_2=...=P_s.$$
Для ранжировок и разбиений под согласованностью понимают более частную гипотезу, предполагающую отрицание равномерности распределений (т.е. одинаковой вероятности появления каждой возможной ранжировки или разбиения), что соответствует замене проверки гипотезы (1) на проверку гипотезы$$P_1 = P_2 = ...= P_s = (1/2, 1/2, ..., 1/2).$$
Как разъяснено в [,], гипотеза (1) более адекватна конкретным задачам обработки реальных данных, например, экспертных оценок, чем (2). Поэтому полученные от экспертов данные, содержащие противоречия, целесообразно рассматривать как люсианы и проверять гипотезу (1), а не подбирать ближайшие ранжировки или разбиения, после чего проверять согласованность методами теории случайных ранжировок или разбиений, как иногда рекомендуется.
Пусть $$A_1, A_2, ..., A_m$$ и $$B_1, B_2, ..., B_n$$ - независимые в совокупности люсианы длины $$k$$, одинаково распределенные в каждой группе с параметрами $$P(A)$$ и $$P(B)$$ соответственно. Гипотезой однородности называется гипотеза$$P(A) = P(B).$$
В асимптотике растущей размерности принимаем, что $$m$$ и $$n $$ постоянны, а $$k\rightarrow\infty$$.
Пусть $$(A_i, B_i), i = 1, 2, ..., s$$ - последовательность (фиксированной длины) пар люсианов. Пары предполагаются независимыми между собой. Требуется проверить гипотезу независимости $$A_i$$ и $$B_i$$, т.е. внутри пар. В ранее введенных обозначениях гипотеза независимости - это гипотеза$$\begin{gathered} P(X_{ij}(A) = 1, X_{ij}(B) = 1) = P(X_{ij}(A) = 1)P(X_{ij}(B) = 1), \\ i = 1, 2, ..., s; j = 1, 2, ..., k, \end{gathered}$$ проверяемая в предположении$$P_1(A) = P_2(A) = ... = P_s(A), P_1(B) = P_2(B) = ... = P_s(B).$$
В настоящем параграфе излагается метод проверки гипотез о люсианах в асимптотике растущей размерности на примере гипотезы согласованности. Эти результаты получены в [, , ]. Дальнейшее изучение проведено нашими учениками Г.В. Рыдановой, Т.Н. Дылько, Г.В. Раушенбахом, О.В. Филипповым, А.М. Никифоровым и др. Гипотеза однородности рассмотрена, например, в []. Методы проверки гипотезы однородности люсианов развиты и изучены Г.В. Рыдановой [] на основе описанного ниже подхода. Она, помимо доказательства предельных теорем, подробно изучила скорость сходимости
Методы проверки согласованности люсианов нашли практическое применение, в частности, в медицине. Они были использованы в кардиологии при анализе данных кинетотопографии [, , ]. Эти методы включены в методические рекомендации Академии медицинских наук СССР и Ученого медицинского совета Минздрава СССР по управлению научными медицинскими исследованиями [].
$$Метод проверки гипотез о люсианах в асимптотике растущей размерности$$. Будем использовать дальнейшее развитие метода, описанного в 7.4. Почему нельзя использовать иные подходы, имеющиеся в математической статистике? Поскольку число неизвестных параметров растет вместе с объемом выборки и пропорционально ему, эти параметры не являются мешающими. Отметим, что согласно [] равномерно наиболее мощных критериев не существует, поскольку параметров много. Не останавливаясь на других подходах математической статистики, констатируем необходимость применения метода проверки гипотез по совокупности малых выборок.
Пусть имеются $$k$$ выборок, независимых между собой. Пусть при справедливости нулевой гипотезы по каждой из выборок можно построить несмещенную оценку $$\xi\in R^p$$ векторного нуля $$0\in R^p$$, где $$p \ge 1, i = 1, 2, ..., k$$. Другими словами, пусть распределение $$i$$ -ой выборки описывается параметром $$\theta_i$$, лежащим в произвольном пространстве, а нулевая гипотеза, очевидно, состоит в том, что $$\theta_i\in \Theta_{0i}$$, где $$\Theta_{0i}$$ - собственное подмножество множества $$\{\theta_i\}$$. Предполагается, что можно по $$i$$ -ой выборке вычислить статистику $$\xi_i$$ такую, что$$M\xi_i=0$$ при всех $$\theta_i\in \Theta_{0i}$$. Очевидно, $$\xi_i \equiv 0$$ удовлетворяют (3). Однако для рассматриваемого метода необходимо, чтобы при всех $$\theta_i\in \Theta_{0i}$$ ковариационная матрица вектора $$\xi_i$$ была ненулевой:$$Cov(\xi_i)=M(\xi_i^T\xi_i)\ne 0.$$
В теории математической статистики иногда используют понятие полноты параметрического семейства распределений. Если рассматриваемое семейство является полным - а так и есть для люсианов, - то не существует достаточной статистики, удовлетворяющей одновременно условиям (3) и (4) (см., например, [, $$\S$$ $$\S$$ 2.12-2.14]). Поэтому будем использовать статистики, не являющиеся достаточными.
Следующее предположение - ковариационные матрицы статистик $$\xi_i$$, т.е. $$Cov(\xi_i)$$, также допускают несмещенные оценки $$S_i$$ по тем же выборкам:$$M(S_i)=Cov(\xi_i)$$ при всех $$\theta_i\in \Theta_{0i}$$.
Рассматриваемый метод основан на том, что поскольку случайные векторы $$\xi_i$$ определяются по независимым между собой выборкам, то $$\xi_i$$ независимы в совокупности, а потому случайный вектор$$\xi=\sum_{i=1}^k\xi_i$$ является суммой независимых случайных векторов, имеет в силу (3) нулевое математическое ожидание, а его ковариационная матрица равна$$C_k= Cov(\xi_i).$$
При справедливости многомерной центральной предельной теоремы (простейшее условие справедливости этой теоремы для $$\xi_i$$ в случае люсианов - отделенность от 0 и 1 всех элементов матриц $$P_j$$, равномерная по $$s$$ и $$k$$ ) вектор $$\xi$$ является асимптотически нормальным, т.е. при $$k\rightarrow\infty$$ распределение $$\xi$$ сближается (в смысле, раскрытом в лекции 4) с многомерным нормальным распределением $$N(0; C_k$$ ).
Однако эту сходимость нельзя непосредственно использовать для проверки исходной гипотезы, поскольку матрица $$C_k$$ неизвестна статистику. Необходимо оценить эту матрицу по статистическим данным. В силу (5) в качестве оценки $$C_k$$ естественно использовать$$C_k^*=\sum_{i=1}^k S_i.$$
Простейшая формулировка условий справедливости такой замены - предположение о том, что к последовательности $$S_i$$ можно применить закон больших чисел. А именно, пусть существует неотрицательно определенная матрица $$C$$ такая, что при $$k\rightarrow\infty$$$$\frac{1}{k}(C_k^*-C_k)\rightarrow 0,\;\frac{1}{k}C_k\rightarrow C.$$
В силу результатов лекции 4 из асимптотической нормальности $$\xi$$ и соотношений (7) следует, что распределение статистики$$\eta=\frac{1}{\sqrt{k}}\xi$$ сходится к нормальному распределению $$N(0; C)$$. При этом, если некоторый случайный вектор $$\tau$$ имеет распределение $$N(0; C)$$, то распределение случайной величины $$q(\eta)$$ сходится к распределению $$q(\tau)$$ для произвольной интегрируемой по Риману по любому кубу функции $$q: R^p > R^1$$. Для проверки нулевой гипотезы предлагается пользоваться статистикой $$q(\eta)$$ при подходящей функции $$q$$, а процентные точки брать соответственно распределению $$q(\tau)$$. В этом и состоит рассматриваемый метод проверки гипотез о люсианах в асимптотике растущей размерности. Для реальных расчетов целесообразно использовать линейные или квадратические функции $$q$$ от координат вектора $$\eta$$.
Отклонения от нулевой гипотезы приводят, как правило, к нарушению равенств (3) и (4). Случайный вектор ? при этом обычно остается асимптотически нормальным, но с другими параметрами, что может быть обычным образом использовано для построения оптимального решающего правила, соответствующего заданной альтернативе (например, согласно лемме Неймана-Пирсона). Поведение при альтернативах для некоторых гипотез изучено в [ $$22$$, $$34$$ ], здесь его не будем рассматривать, поскольку вычисление мощности не требует новых идей.
Несмещенные оценки параметров асимптотического распределения вектора попарных расстояний. Применим описанный выше метод для проверки гипотезы согласованности люсианов. Исходные данные - люсианы$$A_j = (X_{1j}, X_{2j}, ..., X_{kj}), j=1,2,...,s.$$
В качестве $$i$$ -й выборки возьмем совокупность
При справедливости нулевой гипотезы в (8) стоят независимые
В качестве вектора $$\xi$$, на основе которого строятся статистики для проверки согласованности, будем использовать вектор попарных расстояний между люсианами$$\xi=\{d(A_p,A_q), 1\le p<q\le s\},$$ в котором пары $$(p, q)$$ упорядочены лексикографически,$$d(A_p,A_q)=\sum_{i=1}^k\mu_i|X_{ip}-X_{iq}|,\;\mu_i>0.$$
В лекции 1 это расстояние выведено из некоторой системы аксиом (напомним, что совокупность векторов из 0 и 1 размерности $$k$$ находится во взаимнооднозначном соответствии с совокупностью подмножеств множества из $$k$$ элементов; при этом 1 соответствует тому, что элемент входит в подмножество, а 0 - что не входит).
Из вида расстояния в формуле (10) следует, что введенный в (9) вектор $$\xi$$ имеет вид (6) с$$\xi_i = \mu_i\{|X_{ip} - X_{iq}|, 1\le p<q\le s\}.$$
Следовательно, для применения описанного выше метода проверки гипотез о люсианах в асимптотике растущей размерности достаточно построить на основе вектора $$\xi_i$$ из (11) несмещенную оценку 0 и найти несмещенную оценку ковариационной матрицы этой оценки.
Чтобы применить общую схему, необходимо начать с построения статистики $$\beta$$ такой, чтобы при всех $$p_i$$ имело место равенство$$M(|X_{ip}-X_{iq}|-\beta)-0,\;1\le p<q\le s.$$
Элементарный расчет дает:$$M|X_{ip}-X_{iq}|=2p_i(1-p_i).$$
Как известно [, с.56-57], несмещенная оценка многочлена$$f(p)=\sum_{h=0}^m a_h p^h$$
по результатам $$m$$ независимых
Ясно, что многочлены степени $$m + 1$$ и более высокой невозможно несмещенно оценить по результатам $$m$$ испытаний.
В случае $$f(p) = 2p(1 - p)$$ в соответствии с (12) получаем несмещенную оценку$$\beta=\frac{2}{m-1}\left(\gamma-\frac{\gamma^2}{m}\right).$$
Таким образом, можно применять общий метод проверки гипотез о люсианах в асимптотике растущей размерности с$$\xi_i=\mu_i(\{|X_{ip}-X_{iq}|,\;1\le p<q\le s\}=\beta_i e),$$ где коэффициенты $$\beta_i$$ определяются с помощью формулы (13) по $$\gamma_i$$ - общему числу единиц, стоящих на $$i$$ -м месте в люсианах $$A_1, A_2, ..., A_s$$, а $$e$$ - вектор размерности $$s(s - 1)/2$$ с единичными координатами. Тогда несмещенная оценка 0, о которой идет речь в методе проверки гипотез по совокупности малых выборок, имеет вид$$\xi=\{d(A-p,A_q),1\le p<q\le s\}=\sum_{i=1}^k\mu_i\beta_i e.$$
Для использования статистики типа $$\eta$$, распределение которой приближается с помощью нормального распределения$$N\left(0;\frac{1}{k}\sum_{i=1}^k S_i\right),$$ необходимо уметь несмещенно оценивать ковариационные матрицы $$Cov(\xi_i)$$. Для этого достаточно найти математические ожидания элементов матрицы $$M(\xi_i^T,\xi_i)$$ как функции (многочлены) от $$p_i$$, а затем использовать формулу (12) для получения несмещенных оценок.
Вычисление матрицы $$M(\xi_i^T,\xi_i)$$ хотя и трудоемко, но не содержит каких-либо принципиальных трудностей. В [] вычислены диагональные элементы рассматриваемой матрицы. Вычисление занимает около 2,5 страниц (с.299-301), Поэтому здесь приведен только окончательный итог.
Обозначим для краткости $$p_i = p$$. В [] показано, что$$D=D(|X_{ip}-X_{iq}|-\beta_i)=\left(2-\frac{4}{s}\right)p(1-p)-4\frac{(s-2)(s-3)}{s(s-1)}p^2(1-p)^2.$$
Если двухэлементные множества $$\{p, q\}$$ и $$\{r, t\}$$ не имеют ни одного общего элемента, то$$C_1=M(|X_{ip}-X_{iq}|-\beta_i)(|X_{ir}-X_{it}|-\beta_i)=-\frac{4}{s}p(1-p)+ \frac{8(2s-3)}{s(s-1)}p^2(1-p)^2,$$ а если имеют ровно один общий элемент, то$$C_2=M(|X_{ip}-X_{iq}|-\beta_i)(|X_{ir}-X_{it}|-\beta_i)= \left(1-\frac{4}{s}\right)p(1-p)- 4\frac{(s-2)(s-3)}{s(s-1)}p^2(1-p)^2.$$
С помощью формулы (12) получаем несмещенные оценки для $$D, C_1$$ и $$C_2$$ как многочленов от $$p$$:$$\begin{gathered} D^*=\frac{2\gamma_i(s-\gamma_i)}{s^2(s-1)^2}\{(s-2)(s-1)-2(\gamma_i-1)(s-\gamma_i-1)\}, \\ C_1^*=\frac{4\gamma_i(s-\gamma_i)}{s^2(s-1)} \left\{\frac{2(2s-3)(\gamma_i-1)(s-\gamma_i-1)}{(s-1)(s-2)(s-3)}-1\right\},\\ C_2^*=\frac{\gamma_i(s-\gamma_i)}{s^2(s-1)}\{(s-4)(s-1)-4(\gamma_i-1)(s-\gamma_i-1)\}. \end{gathered}$$
С помощью трех чисел $$D^*, C_1^*, C_2^*$$ выписывается несмещенная оценка матрицы ковариаций вектора $$\xi_i/\mu_i$$, которую обозначим $$B_i$$. Тогда асимптотически нормальный вектор $$\xi$$ имеет нулевое математическое ожидание и ковариационную матрицу, несмещенно и состоятельно (в смысле соотношений (7)) оцениваемую с помощью$$Cov(\xi)^*=\sum_{i=1}^k\mu_i^2 B_i.$$
Асимптотическая нормальность доказывается, естественно, в схеме серий. Достаточным условием является существование положительной константы $$\varepsilon$$ такой, что$$\mu_i\ge\varepsilon,\frac{1}{\mu_i}\ge\varepsilon,p_i\ge\varepsilon,1-p_i\ge\varepsilon$$ при всех $$k$$ и $$i, 1\le i\le k$$.
Поскольку $$D, C_1$$ и $$C_2$$ являются многочленами четвертой степени от $$p$$, то несмещенные оценки для них существуют при $$s\ge 4$$. Если же $$s< 4$$, то несмещенных оценок не существует. Поэтому указанным методом проверять согласованность можно лишь при числе люсианов $$s\ge 4$$.
Проверка согласованности люсианов. Пусть $$\alpha$$ - нормально распределенный случайный вектор размерности $$s(s - 1)/2$$ с нулевым математическим ожиданием и ковариационной матрицей, определенной формулой (14). Согласно результатам лекции 4 для любой действительнозначной функции $$f$$, интегрируемой по Риману по любому
В частности, можно использовать линейные статистики, представляющие собой скалярное произведение случайного вектора $$\xi$$ и некоторого заданного детерминированного вектора коэффициентов $$a$$, т.е.$$(\xi,a)=\sum_{i=1}^k\left(\mu_i\sum_{1\le j<t\le s}a_{jt}(|X_{ij}-X_{it}|-\beta_i)\right).$$
Линейные статистики имеют нулевое математическое ожидание и дисперсию, очевидным образом выражающуюся через матрицу коэффициентов $$||a_{ij}||$$ и числа $$D, C_1$$ и $$C_2$$, а потому несмещенно и состоятельно оцениваемую с помощью с помощью выписанных выше оценок для $$D, C_1$$ и $$C_2$$.
Отметим, что $$(\xi, а) = 0$$ при $$a_{ij} \equiv 1, 1 \le j < t \le s$$. Это следует как из непосредственного вычисления дисперсии $$(\xi, а)$$, так и из того, что $$(\xi, а)$$ в рассматриваемом случае выражается через достаточную статистику $$(\gamma_1, \gamma_2, ..., \gamma_k)$$ и является несмещенной оценкой ноля, а семейство
Распределение статистики (16) при альтернативах изучено в работе [].
Рассмотрим два частных случая.
Первый частный случай. Проверка согласованности двух определенных люсианов (ответов двух экспертов), $$j$$ -го и $$t$$ -го, может осуществляться с помощью статистики (16), в которой отличен от 0 только член с $$a_{jt} = 1$$. Оценкой дисперсии является $$D^*$$.
Второй частный случай. Пусть необходимо проверить согласованность люсианов с одним из них, скажем, с $$j$$ -м (например, люсианы отражают мнения экспертов, а $$j$$ -й из них является наиболее компетентным - по априорной оценке, или "лицом, принимающим решения", или его мнение сильно отличается от мнений остальных). Это можно сделать с помощью статистики (16), в которой$$\begin{gathered} a_{jt} = 1, t = j + 1, j + 2, ..., s; a_{tj} = 1, t = 1, 2, ..., j - 1; \\ a_{qt} =0, q \ne j, t \ne j, 1 \le q < t \le s. \end{gathered}$$
Другими словами, она имеет вид$$W=\sum_{t=1}^s d(A_j, A_t)-(s-1)\sum_{i=1}^k\mu_i\beta_i,$$ где расстояние $$d$$ между люсианами определено в (10), а $$\beta_i$$ - в (13) с заменой $$m$$ на $$s$$ и $$\gamma$$ на $$\gamma_i$$. Используя полученные ранее несмещенные оценки элементов ковариационной матрицы, нетрудно показать, что несмещенная и состоятельная (в смысле формулы (7) выше) оценка дисперсии $$W$$ имеет вид$$D^*(W)=\sum_{i=1}^k\mu_i^2\frac{\gamma_i(s-\gamma_i)}{s^2} \{(s-2)^2-4(\gamma_i-1)(s-\gamma_i-1)\}.$$
Тогда при выполнении некоторых внутриматематических условий регулярности, например, условий (15), распределение статистики$$\frac{1}{\sqrt{D^*(W)}}W$$ сходится при $$k\rightarrow\infty, s = \text{const}$$ к стандартному нормальному распределению с математическим ожиданием 0 и дисперсией 1 (при справедливости гипотезы (1) согласованности люсианов).
Статистика (17) наряду со статистикой, предназначенной для проверки гипотезы однородности люсианов, включена в "Методические рекомендации" АМН СССР и УМС Минздрава СССР []. Последнюю статистику не расписываем здесь, поскольку для этого не требуются новые идеи.
Различные подходы к понятию согласованности. Обсудим условия, при выполнении которых люсианы естественно считать согласованными (а экспертов, чьи мнения отражают люсианы, имеющими единое мнение, искаженное случайными ошибками), т.е. обсудим различные методы проверки гипотезы (1).
, с.36-39], выход дается
Полное согласие в целом означает, что для любого эксперта мнения всех остальных оказываются с ним согласованными при использовании статистики (17) (второй частный случай). Отсутствие подобного согласия для одного или нескольких экспертов не означает отклонения гипотезы согласованности люсианов (1) - по тем же причинам, что и в предыдущем случае.
Минимальное согласие имеют мнения экспертов, когда хотя бы для одного из них гипотеза согласованности не отвергается с помощью статистики (17). В этом случае групповое мнение целесообразно строить, выделяя "ядро", о чем подробнее сказано ниже.
Расстояние $$d$$ между люсианами (см. формулу (10)) введено аксиоматически в 1.6 (напомним, что реализацию люсиана можно рассматривать как подмножество конечного множества). Там же из иной системы аксиом выведено другое расстояние - $$D$$ -метрика. Рассмотрим проверку согласованности люсианов с использованием $$D$$ -метрики. В этом случае расстояние между люсианами $$A_1$$ и $$A_2$$ имеет вид$$D(A_1,A_2)=\left\{ \begin{gathered} \frac{d(A_1,A_2)}{t(A_1,A_2)}, T(A_1,A_2)\ne 0, \\ 0,\quad T(A_1,A_2)= 0, \end{gathered} \right.$$ где$$T(A_1,A_2)=\sum_{i=1}^k\mu_i\max(X_{i1},X_{i2}).$$
Ясно, что теория, основанная на $$D$$ -метрике, существенно сложнее теории, основанной на метрике $$d$$. Ясно, что описанный выше метод проверки гипотез о люсианах в асимптотике растущей размерности применить не удается. Чтобы продемонстрировать существенное усложнение ситуации, опишем лишь асимптотическое поведение расстояния $$D(A_1, A_2)$$ между двумя люсианами.
]. Пусть $$p_{1i}$$ и $$p_{2i}$$ отделены от 0 и 1, а $$\mu_i$$ отделены от 0 и $$+\infty$$. Тогда расстояние $$D(A_1, A_2)$$ между люсианами $$A_1$$ и $$A_2$$ асимптотически нормально при $$k\rightarrow\infty$$ с параметрами$$t_k=\frac{N_1}{N_2},\;q_k=\frac{N_1}{N_2}\sqrt{\frac{N_3}{N_1^2}+\frac{N_4}{N_2^2}-2\frac{N_5}{N_1N_2}},$$ т.е. для любого числа $$x$$ справедливо предельное соотношение$$\lim_{k\rightarrow\infty}P \left\{ \frac{D(A_1,A_2)-t_k}{q_k}\le x \right\} =\Phi(x),$$ где \Phi(х) - функция стандартного нормального распределения с математическим ожиданием 0 и дисперсией 1.
Величины $$N_j, j = 1, 2, 2, 4, 5$$, выражаются через $$\mu_i$$ и величины$$p_{3i} = p_{1i} + p_{2i} - 2p_{1i} p_{2i}, p_{4i} = p_{1i} + p_{2i} - p_{1i} p_{2i}$$ следующим образом:$$\begin{gathered} N_1=\sum_{i=1}^k\mu_i p_{3i}, \;N_2=\sum_{i=1}^k\mu_ip_{4i},\;N_3=\sum_{i=1}^k\mu_i^2p_{3i}(1-p_{3i}), \\ N_4=\sum_{i=1}^k\mu_i^2 p_{4i}(1-p_{4i}), N_5=\sum_{i=1}^k\mu_i^2 p_{3i}(2-p_{4i}). \end{gathered}$$
Следствие 1. Пусть $$p_{1i} = p_1$$ и $$p_{2i} = p_2$$ при всех $$i, k$$, причем $$p_1$$ и $$p_2$$ лежат внутри отрезка (0; 1). Пусть $$\mu_i$$ отделены от 0 и $$+\infty$$. Тогда расстояние $$D(A_1, A_2)$$ между люсианами $$A_1$$ и $$A_2$$ асимптотически нормально при $$k\rightarrow\infty$$ с параметрами$$t_k=\frac{p_3}{p_4},\;q_k^2=\frac{p_1p_2p_3}{p_4^3} \frac{\sum\limits_{i=1}^k \mu_i^2}{\left(\sum\limits_{i=1}^k\mu_i\right)^2},$$ где$$p_3 = p_1 + p_2 - 2p_1p_2, p_4 = p_1 + p_2 - p_1p_2.$$
Следствие 2. Пусть в предположениях следствия 1 $$p_1 = p_2 = p$$ и $$\mu_i = 1$$ при всех $$i, k$$. Тогда$$t_k=\frac{2(1-p)}{2-p},\;q_k=\frac{2(1-p)}{k(2-p)^3}.$$
Замечание. Пусть в следствии 2 $$p = 1/2$$. Тогда $$A_1$$ и $$A_2$$ - люсианы, равномерно распределенные на множестве всех последовательностей из 0 и 1 длины $$k$$. В частности, эти люсианы могут соответствовать независимым случайным множествам, равномерно распределенным на совокупности всех подмножеств конечного множества из $$k$$ элементов, или независимым толерантностям, равномерно распределенным на множестве всех толерантностей, определенных на множества из $$m$$ элементов, где $$m(m - 1)/2 = k$$. По следствию 2 расстояние между люсианами $$D(A_1, A_2)$$ асимптотически нормально с математическим ожиданием 0,667 и дисперсией 0,296 $$k^{-1}$$. Напомним, что распределения коэффициентов ранговой корреляции Кендалла и Спирмена изучены (в основном) лишь при условии равномерности распределения случайных ранжировок на множестве всех возможных ранжировок фиксированного числа объектов. Для теории люсианов случай равномерности распределения - весьма частный, а для теории ранжировок - основной. Как уже говорилось, отказ от равномерности - привлекательная черта теории люсианов.
Классификация люсианов. Отсутствие согласованности в одном из перечисленных выше смыслов позволяет сделать заключение о целесообразности разбиения всех люсианов (например, если они выражают мнения экспертов) на группы близких между собой, т.е. о целесообразности классификации люсианов, точнее, их кластер-анализа. Поскольку введена мера близости между люсианами $$d(A_1, A_2)$$ или $$D(A_1, A_2)$$, то напрашивается следующий способ действий: провести разбиение на кластеры с помощью одного из алгоритмов, основанных на использовании меры близости, а затем проверить мнения в каждом классе на согласованность. Однако применение того или иного алгоритма кластер-анализа, вообще говоря, может нарушить предпосылки описанных выше способов проверки согласованности (ср. обсуждение похожей проблемы, связанной с применением регрессионного анализа после кластер-анализа, в 7.5). Поэтому опишем методы классификации, опирающиеся на результаты проверки согласованности.
Разбиение на кластеры, внутри каждого из которых имеет место "полное индивидуальное согласие", может быть проведено с помощью агломеративного иерархического алгоритма "дальнего соседа", дополненного ограничением сверху на диаметр кластера. Это ограничение строится из статистических соображений, в отличие от методов, описанных в лекции 9. При этом в качестве меры близости между люсианами используют не расстояния $$d$$ или $$D$$, а модуль статистики, применяемой для проверки согласованности двух люсианов, т.е. статистики (16), в которой только одно из чисел $$a_{ij}$$ отлично от 0. Упомянутое ограничение таково: диаметр кластера не должен превосходить процентной точки предельного распределения, соответствующей используемому при анализе рассматриваемых данных уровню значимости (можно порекомендовать 5%-й уровень значимости). В результате работы алгоритма получим кластеры, в которых имеется "полное индивидуальное согласие", причем объединение любых двух кластеров приведет к исчезновению этого свойства у объединения. Поскольку способ выделения итогового разбиения из иерархического дерева разбиений имеет вероятностно-статистическое обоснование, изложенное выше, то описанный метод классификации люсианов следует считать - в терминологии [] - не методом анализа данных (т.е. эвристическим), а вероятностно-статистическим (т.е. научно обоснованным) методом.
Кластеры "с полным согласием в целом" могут быть получены с помощью агломеративного иерархического алгоритма, в котором мерой близости двух кластеров является максимальное значение модуля статистики (17), когда $$j$$ пробегает номера мнений (люсианов), вошедших в объединение рассматриваемых кластеров, а суммирование в (17) проводится по всем люсианам в этом объединении. Ограничение сверху на меру близости кластеров определяется процентной точкой предельного распределения статистики $$W$$, заданной формулой (17).
Кластеры "с минимальным согласием" можно получить, при фиксированном $$j$$ выделяя совокупность люсианов, согласованных с $$A_j$$ в смысле статистики $$W$$ з (17).
На основе двух рассмотренных выше частных случаев линейной статистики (16) можно строить и другие способы классификации. Например, для каждого люсиана $$A_m$$ можно выделить кластер "типа шара" (см. лекцию 9) из люсианов, попарно согласованных с $$A_m$$. Все такие способы имеют вероятностно-статистическое обоснование, и потому к ним относится сказанное выше относительно выделения кластеров "с полным индивидуальным согласием".
, ].
Нахождение среднего. В результате классификации получаем согласованные (в одном из указанных выше смыслов) группы люсианов. Для каждой из них полезно рассмотреть среднее. В зависимости от конкретных приложений в прикладных исследованиях применяют либо среднее в виде последовательностей 0 и 1, т.е. в виде реализации люсиана, либо среднее в виде последовательности оценок вероятностей $$(p_1, p_2, ..., p_k)$$. Кроме того, оно может находиться либо с помощью методов, подавляющих "засорения" ("выбросы"), либо без учета возможности засорения. Рассмотрим все четыре возможности.
В соответствии с подходом в 5.5 при отсутствии засорения эмпирическое среднее ищется как решение задачи$$\sum_{j=1}^m (A_j,A)\rightarrow\min_{A\in X},$$ где $$A_1, A_2, ..., A_m$$ - люсианы, входящие в рассматриваемый кластер, $$X$$ - множество, которому принадлежит среднее.
Если $$X$$ - совокупность последовательностей из 0 и 1, то правило (18) дает решение по правилу большинства (подробнее см. 5.5).
Если $$X$$ - пространство последовательностей вероятностей, то решением задачи (18) является та же последовательность 0 и 1, что и в первом случае. Поэтому в качестве среднего вместо решения задачи (18) целесообразно рассматривать просто последовательность частот.
Асимптотическое поведение средних при $$m\rightarrow\infty$$ вытекает из законов больших чисел (5.5), теорем, описывающих асимптотику решений экстремальных статистических задач (см. 6.3), и теоремы Муавра-Лапласа соответственно.
В работе [] при анализе результатов эксперимента показано, что ответы реальных экспертов разбиваются на многочисленное "ядро", расположенное вокруг истинного мнения, и отдельных "диссидентов", разбросанных по периферии. Причем оценка истинного мнения по "ядру" является более точной, чем по всей совокупности, поскольку мнения "диссидентов" не отражают истинного мнения. Поэтому для построения группового мнения, в том числе среднего для совокупности люсианов, отражающих мнения экспертов, естественно применять методы, подавляющие мнения "диссидентов", что соответствует методологии робастности.
"Ядро" может быть построено следующим образом. Решается задача (18) с конечным множеством $$X$$, состоящим из всех исходных люсианов: $$X = \{A_1, A_2, ..., A_m\}$$, т.е. из результатов наблюдений выбирается тот, что находится "в центре" совокупности результатов наблюдений. Пусть $$A_j$$ является решением этой задачи. В качестве ядра предлагается рассматривать совокупность всех люсианов, которые попарно согласованы с $$A_j$$. Другой вариант: рассматривается кластер с "полным внутренним согласием", куда входит $$A_j$$. (При этом, очевидно, должно быть изменено (уменьшено) критическое значение критерия по сравнению с процедурой, приведшей к выделению группы, нахождением группового мнения которой мы занимаемся.) Затем групповое мнение ищется лишь для элементов "ядра". Описанная процедура особенно необходима в случае, когда не было предварительного разбиения совокупности люсианов на группы согласованных друг с другом. Новым по сравнению с [] является придание вероятностного смысла порогу, выделяющему "ядро".
Обобщая идею выделения "ядра", приходим к "взвешенным
Таким образом, в настоящем параграфе представлен ряд методов обработки специального вида объектов нечисловой природы - люсианов. При этом для решения одной и той же задачи, например, задачи классификации, предлагается ряд методов, точно так же, как для решения классической задачи проверки однородности двух независимых выборок имеется большое число методов (см. лекцию 8).
Пример практического применения метода парных сравнений. Деятельность предприятия по реализации услуг всегда сопряжена с рядом проблем, от качества решения которых зависит его будущее. Руководителю службы маркетинга необходимо знать факторы, сдерживающие продажи, и оценить степень важности каждого из них. При кажущейся очевидности и простоте решения далеко не вся управленческая команда дает однозначный ответ: какая из проблем на текущий момент является наиболее важной. Необходим экспертный опрос на эту тему.
Целью исследования факторов, влияющих на объемы продаж, является их ранжирование по степени важности. Для этого среди 25 сотрудников отдела сбыта, а также 10 руководителей завода ГАРО (Великий Новгород) А.А. Пивнем был проведен опрос, в котором предлагалось сравнить попарно факторы, определив более важный среди двух. Итог определялся как среднее арифметическое сумм баллов, набранных каждым фактором у всех опрашиваемых.
Были проанализированы следующие 15 факторов:
В результате анализа результатов парных сравнений построена структурная схема, показывающая степень влияния факторов на объемы продаж (рис 11.1).
Наибольшую значимость на сегодняшний день имеет срок поставки продукции и квалификация персонала. Меняются подходы к продвижению товаров на рынке. Ранее успешно применяемые способы продаж (почтовая рассылка рекламы, участие в специализированных выставках, публикации в газетах и специализированных изданиях, конференции и т.д.) сегодня требуют иного качественного подхода. Срок поставки продукции, как правило, связан с производственно-технологическим циклом изготовления и настройки изделий. Мотивация труда, равно как и уровень гарантийного и сервисного обслуживания, имеют также большое значение. Разрабатывается и утверждается новая система оплаты труда, которая позволяет устранить возникающие противоречия. Отдел сервисного обслуживания гаражного оборудования должен разработать концепцию развития сервисной сети с целью наиболее полного удовлетворения потребителя, а значит и завоевания преимуществ в конкурентной борьбе.
(рис 11.1) Распределение факторов по их значимостиСреди проблем более низкого уровня значимости необходимо отметить место корпоративной культуры. Понимание и осознание себя, как части сплоченного коллектива - сложный процесс. Достижение синергетического эффекта возможно только в коллективе, в котором отдельный сотрудник понимает и делает свою работу через понимание целей и задач всей компании. Формированию корпоративной культуры следует уделить особое внимание.
Проведенный анализ дает возможность компании сосредоточить свои усилия на наиболее важных на данный момент обозначенных проблемах. Выбор пути решения каждой из них определяется возможностями компании и опытом руководителей.
Вероятностное моделирование парных сравнений. Напомним общую модель парных сравнений, введенную в 5.4.
Пусть $$t$$ объектов $$A_1,A_2,...,A_t$$ сравниваются попарно каждым из $$n$$ экспертов. Следовательно, возможных пар для сравнения имеется $$s=t(t-1)/2$$. Эксперт с номером $$\gamma$$ делает $$r_{\gamma}$$ повторных сравнений для каждой из $$s $$ возможностей. Пусть $$X(i,j,\gamma,\delta),\; i,j=1, 2, ..., t, i\ne j,\gamma=1,2,...,n; \delta=1,2,..., r_{\gamma}$$, - случайная величина, принимающая значения 1 или 0 в зависимости от того, предпочитает ли эксперт $$\gamma$$ объект $$A_i$$ или объект $$A_j$$ в $$\delta$$ -м сравнении двух объектов. Обычно принимают, что все сравнения проводятся независимо друг от друга, так что случайные величины $$X(i,j,\gamma,\delta)$$ независимы в совокупности, если не считать того, что $$X(i,j, \gamma, \delta)+X(i,j, \gamma, \delta)=1$$. Положим$$P(X(i,j,\gamma,\delta)=1)=\pi(i,j,\gamma,\delta).$$
Ясно, что описанная модель парных сравнений представляет собой частный случай люсиана (в другой терминологии - бернуллиевского вектора). В этой модели число наблюдений равно числу неизвестных параметров, поэтому для получения статистических выводов необходимо наложить те или иные априорные условия на $$\pi(i,j,\gamma,\delta)$$, например:
$$\pi(i,j,\gamma,\delta)=\pi(i,j,\gamma)$$ (нет эффекта от повторений);
$$\pi(i,j,\gamma,\delta)=\pi(i,j)$$ (нет эффекта от повторений и от экспертов).
Теорию независимых парных сравнений целесообразно разделить на две части - непараметрическую, в которой статистические задачи ставятся непосредственно в терминах $$\pi(i,j,\gamma,\delta)$$, и параметрическую, в которой вероятности $$\pi(i,j,\gamma,\delta)$$ выражаются через меньшее число иных параметров. Ряд результатов непараметрической теории парных сравнений непосредственно вытекает из теории люсианов.
В параметрической теории парных сравнений наиболее популярна
Широко применяются модели Терстоуна-Мостеллера и Брэдли-Терри, в которых $$H(x)$$ - соответственно функции нормального и логистического распределений. С прикладной точки зрения эти две модели практически совпадают. Действительно, поскольку функция $$\Phi(x)$$ стандартного нормального распределения с математическим ожиданием 0 и дисперсией 1 и функция$$\Psi(x)=e^x(1+e^x)^{-1}$$ стандартного логистического распределения удовлетворяют соотношению (см. 5.4)$$\sup_{x\in R^1}|\Phi(x)-\Psi(1,7x)|<0,01,$$ то для обоснованного выбора по статистическим данным между моделями Терстоуна-Мостеллера и Брэдли-Терри необходимо не менее тысячи наблюдений. Ясно, что при реальном проведении экспертного опроса число наблюдений по крайней мере на порядок меньше.
Соотношение (1) вытекает из следующей модели поведения эксперта: он измеряет "ценность" $$V_i$$ и $$V_j$$ объектов $$A_i$$ и $$A_j$$, но с ошибками $$\varepsilon_i$$ и $$\varepsilon_j$$ соответственно, а затем сравнивает свои оценки ценности объектов $$y_i=V_i+\varepsilon_i$$ и $$y_j=V_j+\varepsilon_j$$. Если $$y_i>y_j$$ то он предпочитает $$A_i$$, в противном случае - $$A_j$$. Тогда$$\pi(i,j)=P(\varepsilon_i-\varepsilon_j<V_i-V_j)=H(V_i-V_j).$$
Обычно предполагают, что субъективные ошибки эксперта и независимы и имеют одно и то же непрерывное распределение. Тогда функция распределения $$H(x)$$ из соотношения (3) непрерывна и удовлетворяет функциональному уравнению (2).
Пример. При опросе экспертов (август 2001 г.) попарно сравнивались четыре компании ТНК, Лукойл, Юкос, Татнефть, продающие автомобильное топливо. Сравнение проводилось по качеству бензина. При $$t = 4$$ пар для сравнения имеется $$s=t(t-1)/2 = 6$$.
Результаты парных сравнений приведены в табл.1. По ним необходимо определить взаимное положение четырех компаний на оси "качество бензина", т.е. найти их "ценности" $$V_1, V_2, V_3, V_4$$.
| Пары | Частота выбора первого элемента пары | Частота выбора второго элемента пары |
|---|---|---|
| ТНК - Лукойл | $$\pi(1,2) = 0,508$$ | $$\pi(2,1) = 0,492$$ |
| ТНК - Юкос | $$\pi(1,3) = 0,331$$ | $$\pi(3,1) = 0,669$$ |
| ТНК - Татнефть | $$\pi(1,4) = 0,990$$ | $$\pi(4,1) = 0,010$$ |
| Лукойл - Юкос | $$\pi(2,3) = 0,338$$ | $$\pi(3,2) = 0,662$$ |
| Лукойл - Татнефть | $$\pi(2,4) = 0,990$$ | $$\pi(4,2) = 0,010$$ |
| Юкос - Татнефть | $$\pi(3,4) = 0,997$$ | $$\pi(4,3) = 0,003$$ |
Применим модель Терстоуна-Мостеллера, согласно которой погрешности мнений экспертов $$\varepsilon_i$$ являются независимыми нормально распределенными случайными величинами с нулевым математическим ожиданием и дисперсией $$\sigma^2$$.
Легко видеть, что "ценности" $$V_1, V_2, V_3, V_4$$ измерены в шкале интервалов. Начало координат можно выбрать произвольно, поскольку вероятности результатов сравнения зависят только от попарных разностей "ценностей" $$V_1, V_2, V_3, V_4$$. Например, можно положить $$V_4=0$$. Единицу измерения также можно выбрать произвольно. При изменении единицы измерения меняется $$\sigma^2$$, точнее, единица измерения однозначно связана с величиной $$\sigma$$. Дисперсия разности $$\varepsilon_i$$ - $$\varepsilon_j$$ равна $$2\sigma^2$$. В соответствии с формулой (3) удобно выбрать единицу измерения так, чтобы $$2\sigma^2 = 1$$, т.е. $$\sigma=1/\sqrt{2}$$. Тогда $$Н$$ в формуле (3) - это функция $$\Phi$$ стандартного нормального распределения с математическим ожиданием 0 и дисперсией 1.
В соответствии с (3) имеем систему шести уравнений с тремя неизвестными:$$\begin{aligned} \Phi (V_1 - V_2) = \pi (1, 2) = 0,508,\\ \Phi (V_1 - V_3) = \pi (1, 3) = 0,331, \\ \Phi (V_1) = \pi (1, 4) = 0,990,\\ \Phi (V_2 - V_3) = \pi (2, 3) = 0,338,\\ \Phi (V_2) = \pi (2, 4) = 0,990,\\ \Phi (V_3) = \pi (3, 4) = 0,997. \end{aligned}$$
Применяя к каждому их этих уравнений преобразование $$\Phi^{-1}$$, получаем систему шести линейных уравнений с тремя неизвестными:$$\begin{aligned} V_1 - V_2 = a_1 = \Phi^{-1}(0,508) = 0,020054,\\ V_1 - V_3 = a_2 = \Phi^{-1}(0,331) = - 0,437154, \\ V_1 = a_3 = \Phi^{-1}(0,990) = 2,326348,\\ V_2 - V_3 = a_4 = \Phi^{-1}(0,338) = - 0,417928,\\ V_2 = a_5 = \Phi^{-1}(0,990) = 2,326348,\\ V_3 = a_6 = \Phi^{-1}(0,997) = 2,747781.\\ \end{aligned}$$
(Значения $$\Phi^{-1}$$ взяты из таблицы 1.3 сборника [].)
В полученной системе число уравнений больше числа неизвестных, т.е. система переопределена. Дальнейшие расчеты могут проводиться разными способами. Простейший из них состоит в том, чтобы выбрать три уравнения, а именно, третье, пятое и шестое, которые и дают искомые значения:$$V_1=V_2=2,326348,\; V_3=2,747781.$$
Таким образом, качество бензина лучше всего у Юкоса, оно несколько хуже у ТНК и Лукойла, одинаковых по этому показателю, а у Татнефти - значительно хуже тройки лидеров. Можно показать, что если модель Терстоуна-Мостеллера верна и число экспертов достаточно велико, то отбрасывание "лишних" уравнений является корректным способом обработки экспертных данных, поскольку дает состоятельные оценки "ценностей" $$V_1, V_2, ..., V_n$$.
Однако ясно, что при отбрасывании трех уравнений из шести часть информации теряется. Например, первое уравнение показывает, что по мнению экспертов качество бензина у ТНК несколько лучше, чем у Лукойла. Поэтому целесообразно применить метод наименьших квадратов для оценивания $$V_1, V_2, V_3, V_4$$. А именно, рассмотрим функцию трех переменных$$\begin{gathered} f(V_1, V_2, V_3) = (V_1 - V_2 - a_1)^2 + (V_1 - V_3 - a_2)^2 + (V_1 - a_3)^2 + +(V_2 - V_3 - a_4)^2 +(V_2 - a_5)^2 +(V_3 - a_6)^2 . \end{gathered}$$
Оценки по методу наименьших квадратов - это результат минимизации функции $$f(V_1, V_2, V_3)$$ по совокупности переменных $$V_1, V_2, V_3$$. Как и в лекции 9, для минимизации этой функции достаточно приравнять 0 частные производные этой функции по $$V_1, V_2, V_3$$. Имеем:$$\begin{gathered} \frac{\partial f}{\partial V_1}=2(V_1-V_2-a_1)+2(V_1-V_3-a_2)+2(V_1-a_3),\\ \frac{\partial f}{\partial V_2}=-2(V_1-V_2-a_1)+2(V_2-V_3-a_4)+2(V_2-a_5),\\ \frac{\partial f}{\partial V_3}=-2(V_1-V_3-a_2)-2(V_2-V_3-a_4)+2(V_3-a_6). \end{gathered}$$
Приравнивая частные производные 0, деля на 2, раскрывая скобки и перенося
Решение этой системы не представляет трудностей.
Вообще говоря, не всегда сравниваемые объекты можно представить точками на прямой, т.е. не всегда их можно линейно упорядочить. Возможно, более соответствует данным опроса экспертов представление объектов точками на плоскости или в пространстве большей размерности. В статистике парных сравнений [] разработаны методы проверки
Нечеткие множества - частный вид объектов нечисловой природы. Поэтому при обработке выборки, элементами которой являются нечеткие множества, могут быть использованы различные методы анализа статистических данных произвольной природы - расчет средних, непараметрических оценок плотности, построение диагностических правил и т.д.
Среднее значение нечеткого множества. Однако иногда используются методы, учитывающие специфику нечетких множеств. Например, пусть носителем нечеткого множества является конечная совокупность действительных чисел $$\{x_1, x_2, ..., x_n}$$. Тогда под средним значением нечеткого множества иногда понимают число. А именно, среднее значение нечеткого множества определяют по формуле:$$M(A)=\frac{\sum\limits_{i=1}^nx_i\mu_A(x_i)}{\sum\limits_{i=1}^n\mu_A(x_i)},$$
где $$\mu_A(x_i)$$ -
Очевидно, наряду с $$M(A)$$ может оказаться полезным использование эмпирических средних, определяемых (согласно статистике в пространствах общей природы) путем решения соответствующих оптимизационных задач. Для конкретных расчетов необходимо ввести то или иное расстояние между нечеткими множествами.
Расстояния в пространствах нечетких множеств. Как известно, многие методы статистики нечисловых данных базируются на использовании расстояний (или показателей различия) в соответствующих пространствах нечисловой природы. Расстояние между нечеткими подмножествами $$A$$ и $$B$$ множества $$X = \{x_1, x_2, ..., x_k}$$ можно определить как$$d(A,B)=\sum_{j=1}^k|\mu_A(x_j)-\mu_B(x_j)|,$$
где $$\mu_A(x_j)$$ -
(Примем это расстояние равным 0, если функции принадлежности тождественно равны 0.)
В соответствии с аксиоматическим подходом к выбору расстояний (метрик) в пространствах нечисловой природы разработан обширный набор систем аксиом, из которых выводится тот или иной вид расстояний (метрик) в конкретных пространствах, в том числе в пространствах нечетких множеств (см. ].
Проверка гипотез о нечетких множествах. Пусть ответ эксперта - нечеткое множество. Естественно считать, что его ответ, как показание любого средства измерения, содержит погрешности. Если есть несколько экспертов, то в качестве единой оценки (группового мнения) естественно взять эмпирическое среднее их ответов. Но возникает естественный вопрос: действительно ли все эксперты измеряют одно и то же? Может быть, глядя на реальный объект, они оценивают его с разных сторон? Например, на научную статью можно смотреть как с теоретической точки зрения, так и с прикладной, и соответствующие оценки будут скорее всего различны (если они совпадают, то работа либо никуда не годится, либо является выдающейся).
Итак, возник вопрос: как проверить согласованность мнений экспертов? Надо сначала определить понятие согласованности. Пусть $$A$$ - нечеткий ответ эксперта. Будем считать, что соответствующая
Мнения экспертов $$A(1), A(2), ..., A(m)$$ будем считать согласованными, если$$N(A(1)) = N(A(2)) = ..., N(A(m)).$$
Рассмотрим две группы экспертов. В первой у всех "истинное" мнение $$N(A)$$, а во второй у всех - $$N(B)$$. Две группы будем считать согласованными по мнениям, если$$N(A)=N(B).$$
Согласованность определена. Как же ее проверить? Если экспертов достаточно много, то эти гипотезы можно проверять отдельно для каждого элемента множества - общего носителя нечетких ответов. Проверка последней гипотезы переходит в проверку однородности двух независимых выборок (лекция 8). Здесь ограничимся постановками основных гипотез (ср. с аналогичными гипотезами, рассмотренными выше для люсианов).
Восстановление зависимости между нечеткими переменными. Рассмотрим две
Для иллюстрации основной идеи ограничимся парной линейной регрессией нечетких множеств. Нечеткое множество $$C$$ назовем линейной функцией от нечеткого множества $$A$$, если для любого $$x$$ из носителя $$A$$ функции принадлежности множеств $$A$$ и $$C$$ таковы, что $$\mu_C(x) = \mu A(y)$$ при $$x = \alpha y + \beta$$. Другими словами,$$\mu_C(x)=\mu_A((x-\beta)/\alpha)$$ для любого $$x$$ из носителя $$A$$. В таком случае естественно писать$$C=\alpha A + \beta.$$
Однако
Для восстановления зависимости по выборочным парам
Тогда наилучшим линейным приближением $$B$$ является $$C^* = \alpha^*A + \beta^*$$.
Вероятностно-статистическая теория регрессионного анализа
Кластер-анализ нечетких переменных. Строить группы сходных между собой
Пусть на пространстве, в котором лежат результаты наблюдений, т.е. на пространстве нечетких множеств, заданы две меры близости $$\rho$$ и $$\tau$$ (например, это могут быть введенные выше расстояния $$d$$ и $$D$$ ). Берется один из результатов наблюдений (нечеткое множество) и вокруг него описывается шар радиуса $$R$$, определяемый мерой близости $$\rho$$. (Напомним, что шаром с центром в $$x$$ относительно $$\rho$$ называется множество всех элементов $$y$$ рассматриваемого пространства таких, что $$\rho(x, y) \le R$$.) Берутся результаты наблюдений (элементы выборки), попавшие в этот шар, и находится их эмпирическое среднее относительно второй меры близости $$\tau$$. Оно берется за новый центр, вокруг которого снова описывается шар радиуса $$R$$ относительно $$\rho$$, и процедура повторяется. (Чтобы алгоритм был полностью определен, необходимо сформулировать правило выбора элемента эмпирического среднего в качестве нового центра, если эмпирическое среднее состоит более чем из одного элемента.)
Когда центр шара зафиксируется (перестанет меняться), попавшие в этот шар элементы объявляются первым кластером и исключаются из дальнейшего рассмотрения. Алгоритм применяется к совокупности оставшихся результатов наблюдений, выделяет из нее второй кластер и т.д.
Всегда ли центр шара остановится? При реальных расчетах в течение многих лет так было всегда. Соответствующая теория была построена в 1977 г. [ $$19$$ ]. Было доказано, что описанный выше процесс всегда остановится через конечное число шагов. Причем число шагов до остановки оценивается через максимально возможное число результатов наблюдений в шаре радиуса $$R$$ относительно $$\rho$$.
Обширное семейство образуют алгоритмы кластер-анализа типа "
Для работы алгоритмов кластер-анализа типа "
Соображения теории измерений позволяют ограничить круг возможных алгоритмов типа "
При классификации нечетких множеств полезны многие подходы, рассмотренные в лекции 9, а именно, все подходы, основанные только на использовании расстояний.
Сбор и описание нечетких данных. Разработано большое количество процедур описания нечеткости. Так, согласно Э.Борелю понятие "куча" описывается с помощью функции распределения - при каждом конкретном $$x$$ значение функции принадлежности - это доля людей, считающих совокупность $$x$$ зерен кучей. Результат подобного опроса может дать и кривую иного вида, например, по поводу понятия "молодой" (слева будут отделены "дети", а справа - "люди зрелого и пожилого возраста"). Нечеткая толерантность может оцениваться с помощью случайных толерантностей (см. выше).
Целесообразно попытаться выделить наиболее практически полезные простые формы функций принадлежности. Видимо, наиболее простой является "ступенька" - внутри некоторого интервала
Тремя числами $$a < b < c$$ описывается
Следующий по сложности вид функции принадлежности - типа трапеции - описывается четырьмя числами $$a < b < c < d$$. Левее $$a$$ и правее $$d$$
Ряд результатов статистики нечетких данных приведен в первой монографии российского автора по нечетким множествам [] и во многих дальнейших публикациях.
Развитие статистики нечисловых данных во многом стимулировалось запросами теории и практики экспертных оценок. Рассмотрим взаимоотношение этих двух областей подробнее.
Современная теория измерений и экспертные оценки. Как проводить анализ собранных рабочей группой ответов экспертов? Для более углубленного рассмотрения проблем экспертных оценок понадобятся некоторые понятия репрезентативной теории измерений, служащей основой теории экспертных оценок, прежде всего той ее части, которая связана с анализом заключений экспертов, выраженных в качественном (а не в количественном) виде.
Как уже отмечалось, получаемые от экспертов мнения часто выражены в порядковой шкале. Поэтому экспертов часто просят дать ранжировку (упорядочение) объектов экспертизы.
Рассмотрим в качестве примера применения результатов теории измерений, связанных со средними величинами в порядковой шкале, следующий сюжет.
Методы средних баллов. В настоящее время распространены экспертные, маркетинговые, квалиметрические, социологические и иные опросы, в которых опрашиваемых просят выставить баллы объектам, изделиям, технологическим процессам, предприятиям, проектам, заявкам на выполнение научно-исследовательских работ, идеям, проблемам, программам, политикам и т.п. Затем рассчитывают средние баллы и рассматривают их как интегральные (т.е. обобщенные, итоговые) оценки, выставленные коллективом опрошенных экспертов. Какими формулами пользоваться для вычисления средних величин? Ведь существует очень много разных видов средних величин.
По традиции обычно применяют среднее арифметическое. Однако специалисты по теории измерений уже около 30 лет знают, что такой способ некорректен, поскольку баллы обычно измерены в порядковой шкале (см. 5.3). Обоснованным является использование медиан в качестве средних баллов. Однако полностью игнорировать средние арифметические нецелесообразно из-за их привычности и распространенности. Поэтому представляется рациональным использовать одновременно оба метода - и средних арифметических рангов (баллов), и медианных рангов. Такая рекомендация находится в согласии с общенаучной концепцией устойчивости (см. 4.7), исходя из которой следует применять различные методы для обработки одних и тех же данных с целью выделения выводов, получаемых одновременно при всех методах. Такие выводы, видимо, соответствуют реальной действительности, в то время как заключения, меняющиеся от метода к методу, зависят от субъективизма исследователя, выбирающего метод обработки исходных экспертных оценок.
Пример сравнения восьми проектов. Рассмотрим конкретный пример применения только что сформулированного подхода.
По заданию руководства фирмы анализировались восемь проектов, предлагаемых для включения в план стратегического развития фирмы. Они обозначены следующим образом: Д, Л, М-К, Б, Г-Б, Сол, Стеф, К (по фамилиям менеджеров, предложивших их для рассмотрения). Все проекты были направлены 12 экспертам, включенным в экспертную комиссию, организованную по решению Правления фирмы. В табл.11.2 приведены ранги восьми проектов, присвоенные им каждым из 12 экспертов в соответствии с представлением экспертов о целесообразности включения проекта в стратегический план фирмы. При этом эксперт присваивает ранг 1 самому лучшему проекту, который обязательно надо реализовать. Ранг 2 получает от эксперта второй по привлекательности проект, ... , наконец, ранг 8 - наиболее сомнительный проект, который реализовывать стоит лишь в последнюю очередь.
| № эксперта | Д | Л | М-К | Б | Г-Б | Сол | Стеф | К |
|---|---|---|---|---|---|---|---|---|
| 1 | 5 | 3 | 1 | 2 | 8 | 4 | 6 | 7 |
| 2 | 5 | 4 | 3 | 1 | 8 | 2 | 6 | 7 |
| 3 | 1 | 7 | 5 | 4 | 8 | 2 | 3 | 6 |
| 4 | 6 | 4 | 2,5 | 2,5 | 8 | 1 | 7 | 5 |
| 5 | 8 | 2 | 4 | 6 | 3 | 5 | 1 | 7 |
| 6 | 5 | 6 | 4 | 3 | 2 | 1 | 7 | 8 |
| 7 | 6 | 1 | 2 | 3 | 5 | 4 | 8 | 7 |
| 8 | 5 | 1 | 3 | 2 | 7 | 4 | 6 | 8 |
| 9 | 6 | 1 | 3 | 2 | 5 | 4 | 7 | 8 |
| 10 | 5 | 3 | 2 | 1 | 8 | 4 | 6 | 7 |
| 11 | 7 | 1 | 3 | 2 | 6 | 4 | 5 | 8 |
| 12 | 1 | 6 | 5 | 3 | 8 | 4 | 2 | 7 |
Примечание. Эксперт № 4 считает, что проекты М-К и Б равноценны, но уступают лишь одному проекту - проекту Сол. Поэтому проекты М-К и Б должны были бы стоять на втором и третьем местах и получить баллы 2 и 3. Поскольку они равноценны, то получают средний балл (2+3)/ 2 = 5/ 2 = 2,5.
Анализируя результаты работы экспертов (т.е. упомянутую таблицу), члены аналитической подразделения Рабочей группы, анализировавшие ответы экспертов по заданию Правления фирмы, были вынуждены констатировать, что полного согласия между экспертами нет, а потому данные, приведенные в таблице, следует подвергнуть тщательному математическому анализу.
Метод средних арифметических рангов. Сначала для получения группового мнения экспертов был применен метод средних арифметических рангов. Прежде всего была подсчитана сумма рангов, присвоенных проектам (см. табл.11.2). Затем эта сумма была разделена на число экспертов, в результате - рассчитан средний арифметический ранг (именно эта операция дала название методу). По средним рангам строится итоговая ранжировка (в другой терминологии - упорядочение), исходя из принципа - чем меньше средний ранг, чем лучше проект. Наименьший средний ранг, равный 2,625, у проекта Б - следовательно, в итоговой ранжировке он получает ранг 1. Следующая по величине сумма, равная 3,125, у проекта М-К - и он получает итоговый ранг 2. Проекты Л и Сол имеют одинаковые суммы (равные 3,25), значит, с точки зрения экспертов они равноценны (при рассматриваемом способе сведения вместе мнений экспертов), а потому должны стоять на 3 и 4 местах и получают средний балл (3+4)/2 = 3,5. Дальнейшие результаты приведены в табл.11.3.
Итак, ранжировка по суммам рангов (или, что в данном случае то же самое, по средним арифметическим рангам) имеет вид:$$\text{Б} < \text{М-К} < \{\text{Л}, \text{Сол}\} < \text{Д} < \text{Стеф} < \text{Г-Б} < \text{К}.$$
Здесь запись типа "А<Б" означает, что проект А предшествует проекту Б (т.е. проект А лучше проекта Б). Поскольку проекты Л и Сол получили одинаковую сумму баллов, то по рассматриваемому методу они эквивалентны, а потому объединены в группу (в фигурных скобках). В терминологии математической статистики ранжировка (1) имеет одну связь.
Метод медиан рангов. Значит, наука сказала свое слово, итог расчетов - ранжировка (1), и на ее основе предстоит принимать решение? Так был поставлен вопрос при обсуждении полученных результатов на заседании Правления фирмы. Но тут наиболее знакомый с современной эконометрикой член Правления вспомнил, что ответы экспертов измерены в порядковой шкале, а потому для них неправомерно проводить усреднение методом средних арифметических. Надо использовать метод медиан.
Что это значит? Надо взять ответы экспертов, соответствующие одному из проектов, например, проекту Д. Это ранги 5, 5, 1, 6, 8, 5, 6, 5, 6, 5, 7, 1. Затем их надо расположить в порядке неубывания (проще было бы сказать - "в порядке возрастания", но поскольку некоторые ответы совпадают, то приходится использовать непривычный термин "неубывание"). Получим последовательность: 1, 1, 5, 5, 5, 5, 5, 6, 6, 6, 7, 8. На центральных местах - шестом и седьмом - стоят 5 и 5. Следовательно, медиана равна 5.
| Д | Л | М-К | Б | Г-Б | Сол | Стеф | К | |
|---|---|---|---|---|---|---|---|---|
| Сумма рангов | 60 | 39 | 37,5 | 31,5 | 76 | 39 | 64 | 85 |
| Среднее арифметическое рангов | 5 | 3,25 | 3,125 | 2,625 | 6,333 | 3,25 | 5,333 | 7,083 |
| Итоговый ранг по среднему арифметическому | 5 | 3,5 | 2 | 1 | 7 | 3,5 | 6 | 8 |
| Медианы рангов | 5 | 3 | 3 | 2,25 | 7,5 | 4 | 6 | 7 |
| Итоговый ранг по медианам | 5 | 2,5 | 2,5 | 1 | 8 | 4 | 6 | 7 |
Медианы совокупностей из 12 рангов, соответствующих
Поскольку проекты Л и М-К имеют одинаковые медианы баллов, то по рассматриваемому методу ранжирования они эквивалентны, а потому объединены в группу (кластер), т.е. с точки зрения математической статистики ранжировка (4) имеет одну связь.
Сравнение ранжировок по методу средних арифметических и методу медиан. Сравнение ранжировок (1) и (2) показывает их близость (похожесть). Можно принять, что проекты М-К, Л, Сол упорядочены как М-К < Л < Сол, но из-за погрешностей экспертных оценок в одном методе признаны равноценными проекты Л и Сол (ранжировка (1)), а в другом - проекты М-К и Л (ранжировка (2)). Существенным является только расхождение, касающееся упорядочения проектов К и Г-Б: в ранжировке (1) Г-Б < К, а в ранжировке (2), наоборот, К < Г-Б. Однако эти проекты - наименее привлекательные из восьми рассматриваемых, и при выборе наиболее привлекательных проектов для дальнейшего обсуждения и использования на указанное расхождение можно не обращать внимания.
Рассмотренный пример демонстрирует сходство и различие ранжировок, полученных по методу средних арифметических рангов и по методу медиан, а также пользу от их совместного применения.
Метод согласования кластеризованных ранжировок. Проблема состоит в выделении общего нестрогого порядка из набора кластеризованных ранжировок (в другой терминологии - ранжировок со связями). Этот набор может отражать мнения нескольких экспертов или быть получен при обработке мнений экспертов различными методами. Рассмотрим метод согласования кластеризованных ранжировок, позволяющий "загнать" противоречия внутрь специальным образом построенных кластеров (групп), в то время как упорядочение кластеров соответствует одновременно всем исходным упорядочениям.
В различных прикладных областях возникает необходимость анализа нескольких кластеризованных ранжировок объектов. К таким областям относятся прежде всего инженерный бизнес, менеджмент, экономика, социология, экология, прогнозирование, научные и технические исследования и т.д., особенно те их разделы, что связаны с экспертными оценками (см., например, [, ]). В качестве объектов могут выступать образцы продукции, технологии, математические модели, проекты, кандидаты на должность и др. Кластеризованные ранжировки могут быть получены как с помощью экспертов, так и объективным путем, например, при сопоставлении математических моделей с экспериментальными данными с помощью того или иного критерия качества. Описанный ниже метод был разработан в связи с проблемами химической безопасности биосферы и экологического страхования [].
В настоящем пункте рассматривается метод построения кластеризованной ранжировки, согласованной (в раскрытом ниже смысле) со всеми рассматриваемыми кластеризованными ранжировками. При этом противоречия между отдельными исходными ранжировками оказываются заключенными внутри кластеров согласованной ранжировки. В результате упорядоченность кластеров отражает общее мнение экспертов, точнее, то общее, что содержится в исходных ранжировках.
В кластеры заключены объекты, по поводу которых некоторые из исходных ранжировок противоречат друг другу. Для их упорядочения необходимо провести новые исследования. Эти исследования могут быть как формально-математическими (например, вычисление медианы Кемени, упорядочения по средним рангам или по медианам и т.п.), так и требовать привлечения новой информации из соответствующей прикладной области, возможно, проведения дополнительных научных или прикладных работ.
Введем необходимые понятия, затем сформулируем алгоритм согласования кластеризованных ранжировок в общем виде и рассмотрим его свойства.
Пусть имеется конечное число объектов, которые мы для простоты изложения будем изображать натуральными числами $$1,2,3,...,k$$ и называть их совокупность "носителем". Под кластеризованной ранжировкой, определенной на заданном носителе, понимаем следующую математическую конструкцию. Пусть объекты разбиты на группы, которые будем называть кластерами. В кластере может быть и один элемент. Входящие в один кластер объекты будем заключать в фигурные скобки. Например, объекты 1,2,3,...,10 могут быть разбиты на 7 кластеров: {1}, {2,3}, {4}, {5,6,7}, {8}, {9}, {10}. В этом разбиении один кластер {5,6,7} содержит три элемента, другой - {2,3} - два, остальные пять - по одному элементу. Кластеры не имеют общих элементов, а объединение их (как множеств) есть все рассматриваемое множество объектов (весь носитель).
Вторая составляющая кластеризованной ранжировки - это строгий линейный порядок между кластерами. Задано, какой из них первый, какой второй, и т.д. Будем изображать упорядоченность с помощью знака <. При этом кластеры, состоящие из одного элемента, будем для простоты изображать без фигурных скобок. Тогда кластеризованную ранжировку на основе введенных выше кластеров можно изобразить так:$$A = [1 < \{2,3\} < 4 < \{5,6,7\} < 8 < 9 < 10].$$
Конкретные кластеризованные ранжировки будем заключать в квадратные скобки. Если для простоты речи термин "кластер" применять только к кластеру не менее чем из 2-х элементов, то можно сказать, что в кластеризованную ранжировку $$A$$ входят два кластера {2,3} и {5,6,7} и 5 отдельных элементов.
Введенная описанным образом кластеризованная ранжировка является бинарным отношением на носителе - множестве {1,2,3,...,10}. Его структура такова. Задано отношение эквивалентности с 7-ю классами эквивалентности, а именно, {2,3}, {5,6,7}, а остальные 5 классов состоят из оставшихся 5 отдельных элементов. Затем введен строгий линейный порядок между классами эквивалентности.
Введенный математический объект известен в литературе как "ранжировка со связями" (М. Холлендер, Д. Вулф), "упорядочение" (Дж. Кемени, Дж. Снелл []), "квазисерия" (Б.Г. Миркин), "совершенный квазипорядок" (Ю.А. Шрейдер [, с.127, 130]). Учитывая разнобой в терминологии, было признано полезным ввести собственный термин "кластеризованная ранжировка", поскольку в нем явным образом названы основные элементы изучаемого математического объекта - кластеры, рассматриваемые на этапе согласования ранжировок как
Следующее важное понятие - противоречивость. Оно определяется для четверки - две кластеризованные ранжировки на одном и том же носителе и два различных объекта - элементы того же носителя. При этом два элемента из одного кластера будем связывать символом равенства = , как эквивалентные.
Пусть $$A$$ и $$B$$ - две кластеризованные ранжировки. Пару объектов $$(a,b)$$ назовем "противоречивой" относительно кластеризованных ранжировок $$A$$ и $$B$$, если эти два элемента по-разному упорядочены в $$A$$ и $$B$$, т.е. $$a < b$$ в $$A$$ и $$a > b$$ в $$B$$ (первый вариант противоречивости) либо $$a>b$$ в $$A$$ и $$a<b$$ в $$B$$ (второй вариант противоречивости). Отметим, что в соответствии с этим определением пара объектов $$(a ,b)$$, эквивалентная хотя бы в одной кластеризованной ранжировке, не может быть противоречивой: эквивалентность $$a = b$$ не образует "противоречия" ни с $$a<b$$, ни с $$a>b$$. Это свойство оказывается полезным при выделении противоречивых пар.
В качестве примера рассмотрим, кроме $$A$$, еще две кластеризованные ранжировки$$\begin{gathered} B = [\{1,2\} < \{3,4, 5\} < 6 < 7 < 9 < \{8, 10\}], \\ C = [3 < \{1, 4\} < 2 < 6 < \{5, 7, 8\} < \{9, 10\}]. \end{gathered}$$
Совокупность противоречивых пар объектов для двух кластеризованных ранжировок $$A$$ и $$B$$ назовем "ядром противоречий" и обозначим $$S(A,B)$$. Для рассмотренных выше в качестве примеров трех кластеризованных ранжировок $$A, B$$ и $$C$$, определенных на одном и том же носителе {1, 2, 3,..., 10}, имеем$$\begin{gathered} S(A,B) = [(8, 9)], S(A,C) = [(1, 3), (2,4)],\\ S(B,C) = [(1, 3), (2, 3), (2, 4), (5, 6), (8,9)]. \end{gathered}$$
Как при ручном, так и при программном нахождении ядра можно в поисках противоречивых пар просматривать пары $$(1,2), (1,3), (1,4), .... , (1,k)$$, затем $$(2,3), (2,4), ..., (2,k)$$, потом $$(3,4), ..., (3, k)$$, и т.д., вплоть до последней пары $$(k-1, k)$$.
Пользуясь понятиями дискретной математики, "ядро противоречий" можно изобразить графом с вершинами в точках носителя. При этом противоречивые пары задают ребра этого графа. Граф для $$S(A,B)$$ имеет только одно ребро (одна связная компонента более чем из одной точки). Граф для $$S(A,C)$$ - 2 ребра (две связные компоненты более чем из одной точки). Граф для $$S(B,C)$$ - 5 ребер (три связные компоненты более чем из одной точки, а именно, {1, 2 , 3, 4}, {5, 6} и {8, 9}).
Каждую кластеризованную ранжировку, как и любое бинарное отношение, можно задать матрицей $$||x(a,b)||$$ из 0 и 1 порядка $$k \times k$$. При этом $$x(a,b) = 1$$ тогда и только тогда, когда $$a < b$$ либо $$a = b$$. В первом случае $$x(b,a) = 0$$, а во втором $$x(b,a) = 1$$. При этом хотя бы одно из чисел $$x(a,b)$$ и $$x(b,a)$$ равно 1. Из определения противоречивости пары $$(a, b)$$ вытекает, что для нахождения всех таких пар достаточно поэлементно перемножить две матрицы $$||x(a,b)||$$ и $$||y(a,b)||$$, соответствующие двум кластеризованным ранжировкам, и отобрать те и только те пары, для которых $$x(a,b)y(a,b) = x(b,a)y(b,a)=0$$.
Алгоритм согласования некоторого числа (двух или более) кластеризованных ранжировок состоят из трех этапов. На первом выделяются противоречивые пары объектов во всех парах кластеризованных ранжировок. На втором формируются кластеры итоговой кластеризованной ранжировки (т.е.
Корректность подобного упорядочивания, т.е. его независимость от выбора той или иной пары объектов, вытекает из соответствующих теорем, доказанных в работе [].
Два объекта из разных кластеров согласующей кластеризованной ранжировки могут оказаться эквивалентными в одной из исходных кластеризованных ранжировок (т.е. находиться в одном кластере). В таком случае надо рассмотреть упорядоченность этих объектов в какой-либо другой из исходных кластеризованных ранжировок. Если же во всех исходных кластеризованных ранжировках два рассматриваемых объекта находились в одном кластере, то естественно считать (и это является уточнением к этапу 3 алгоритма), что они находятся в одном кластере и в согласующей кластеризованной ранжировке.
Результат согласования кластеризованных ранжировок $$A, B, C,..$$. обозначим $$f(A, B, C,...)$$. Тогда$$\begin{gathered} f(A, B) = [1<2<3<4<5<6<7<\{8, 9\}<10], \\ f(A, C) = [\{1,3\}<\{2, 4\}<6<\{5,7\}<8<9<10], \\ f(B, C) = [\{1,2,3,4\}<\{5,6\}<7<\{8,9\}<10], \\ f(A, B, C) = f(B, C) = [\{1,2,3,4\} <\{5,6\}<7<\{8, 9\}<10]. \end{gathered}$$
Итак, в случае $$f(A, B)$$ дополнительного изучения с целью упорядочения требуют только объекты 8 и 9. В случае $$f(A, C)$$ кластер {5,7} появился не потому, что относительно объектов 5 и 7 имеется противоречие, а потому, что в обеих исходных ранжировках эти объекты не различаются. В случае $$f(B, C)$$ четыре объекта с номерами 1, 2, 3, 4 объединились в один кластер, т.е. кластеризованные ранжировки оказались настолько противоречивыми, что процедура согласования не позволила провести достаточно полную декомпозицию задачи нахождения итогового мнения экспертов.
Обсудим некоторые свойства алгоритмов согласования.
1. Пусть $$D = f(A, B, C,...)$$. Если $$a<b$$ в согласующей кластеризованной ранжировке $$D$$, то $$a<b$$ или $$a=b$$ в каждой из исходных ранжировок $$A, B, C, ..$$., причем хотя бы в одной из них справедливо строгое неравенство.
2. Построение согласующих кластеризованных ранжировок может осуществляться поэтапно. В частности,$$f(A,B,C) = f(f(A,B), f(A,C), f(B,C)).$$
Ясно, что ядро противоречий для набора кластеризованных ранжировок является объединением таких ядер для всех пар рассматриваемых ранжировок.
3. Построение согласующих кластеризованных ранжировок нацелено на выделение общего упорядочения в исходных кластеризованных ранжировках. Однако при этом некоторые общие свойства исходных кластеризованных ранжировок могут теряться. Так, при согласовании ранжировок $$B$$ и $$C$$, рассмотренных выше, противоречия в упорядочении элементов 1 и 2 не было - в ранжировке В эти объекты входили в один кластер, т.е. 1 = 2, в то время как 1<2 в кластеризованной ранжировке $$C$$. Значит, при их отдельном рассмотрении можно принять упорядочение 1<2. Однако в $$f(B,C)$$ они попали в один кластер, т.е. возможность их упорядочения исчезла. Это связано с поведением объекта 3, который "перескочил" в С на первое место и "увлек с собой в противоречие" пару (1, 2), образовав противоречивые пары и с 1, и с 2.
Другими словами, связная компонента графа, соответствующего ядру противоречий, сама по себе не всегда является
4. Необходимость согласования кластеризованных ранжировок возникает, в частности, при разработке методики применения экспертных оценок в задачах экологического страхования и химической безопасности биосферы. Как уже говорилось, популярным является метод упорядочения по средним рангам, в котором итоговая ранжировка строится на основе средних арифметических рангов, выставленных отдельными экспертами [, ]. Однако из теории измерений известно (см. лекцию 5), что более обоснованным является использование не средних арифметических, а медиан. Вместе с тем метод средних арифметических рангов весьма известен и широко применяется, так что просто отбросить его нецелесообразно. Поэтому было принято решение об одновременном применении обеих методов. Реализация этого решения потребовала разработки методики согласования двух указанных кластеризованных ранжировок.
5. Область применения рассматриваемого метода не ограничивается экспертными оценками. Он может быть использован, например, для сравнения качества математических моделей процесса испарения жидкости. Имелись данные экспериментов и результаты расчетов по 8 математическим моделям. Сравнивать модели можно по различным критериям качества. Например, по сумме модулей относительных отклонений расчетных и экспериментальных значений. Можно действовать и по другому. В каждой экспериментальной точке упорядочить модели по качеству, а потом получить единые оценки методами средних арифметических и медиан рангов. Использовались и иные методы. Затем применялись методы согласования кластеризованных ранжировок, полученных различными способами. В результате оказалось возможным упорядочить модели по качеству и использовать это упорядочение при разработке банка математических моделей, используемого в задачах химической безопасности биосферы.
6. Рассматриваемый метод согласования кластеризованных ранжировок построен в соответствии с методологией теории устойчивости, согласно которой результат обработки данных, инвариантный относительно метода обработки, соответствует реальности, а результат расчетов, зависящий от метода обработки, отражает субъективизм исследователя, а не объективные соотношения.
Основные математические задачи анализа экспертных оценок. Ясно, что при анализе мнений экспертов можно применять самые разнообразные статистические методы, описывать их - значит описывать практически всю прикладную статистику. Тем не менее можно выделить основные широко используемые в настоящее время методы математической обработки экспертных оценок - это проверка согласованности мнений экспертов (или классификация экспертов, если нет согласованности) и усреднение мнений экспертов внутри согласованной группы.
Поскольку ответы экспертов во многих процедурах экспертного опроса - не числа, а такие объекты нечисловой природы, как градации качественных признаков, ранжировки, разбиения, результаты парных сравнений, нечеткие предпочтения и т.д., то для их анализа оказываются полезными методы статистики нечисловых данных.
]).
Эксперт может сравнить два объекта, сказать, какой из двух лучше (метод парных сравнений), дать им оценки типа "хороший", "приемлемый", "плохой", упорядочить несколько объектов по привлекательности, но обычно не может ответить, во сколько раз или на сколько один объект лучше другого. Другими словами, ответы эксперта обычно измерены в порядковой шкале или являются ранжировками, результатами парных сравнений и другими объектами нечисловой природы, но не числами. Распространенное заблуждение состоит в том, что ответы экспертов стараются рассматривать как числа, занимаются "оцифровкой" их мнений, приписывая этим мнениям численные значения - баллы, которые потом обрабатывают с помощью методов прикладной статистики как результаты обычных физико-технических измерений. В случае произвольности "оцифровки" выводы, полученные в результате подобной обработки данных, могут не иметь отношения к реальности. В связи с "оцифровкой" уместно вспомнить классическую притчу о человеке, который ищет потерянные ключи под фонарем, хотя потерял их в кустах. На вопрос, почему он так делает, отвечает: "Под фонарем светлее". Это, конечно, верно. Но, к сожалению, весьма малы шансы найти потерянные ключи под фонарем. Так и с "оцифровкой" нечисловых данных. Она дает возможность имитации научной деятельности, но не возможность найти истину.
Проверка согласованности мнений экспертов и классификация экспертных мнений. Ясно, что мнения разных экспертов различаются. Важно понять, насколько велико это различие. Если мало - усреднение мнений экспертов позволит выделить то общее, что есть у всех экспертов, отбросив случайные отклонения в ту или иную сторону. Если велико - усреднение является чисто формальной процедурой. Так, если представить себе, что ответы экспертов равномерно покрывают поверхность бублика, то формальное усреднение укажет на центр дырки от бублика, а такого мнения не придерживается ни один эксперт. Из сказанного ясна важность проблемы проверки согласованности мнений экспертов.
Разработан ряд методов такой проверки. Статистические методы проверки согласованности зависят от математической природы ответов экспертов. Соответствующие статистические теории весьма трудны, если эти ответы - ранжировки или разбиения, и достаточно просты, если ответы - результаты независимых парных сравнений. Отсюда вытекает рекомендация по организации экспертного опроса: не старайтесь сразу получить от эксперта ранжировку или разбиение, ему трудно это сделать, да и имеющиеся математические методы не позволяют далеко продвинуться в анализе подобных данных.
Например, рекомендуют проверять согласованность ранжировок с помощью коэффициента ранговой конкордации Кендалла-Смита. Но давайте вспомним, какая статистическая модель при этом используется. Проверяется нулевая гипотеза, согласно которой ранжировки независимы и равномерно распределены на множестве всех ранжировок. Если эта гипотеза принимается, то конечно, ни о какой согласованности мнений экспертов говорить нельзя. А если отклоняется? Тоже нельзя. Например, может быть два (или больше) центра, около которых группируются ответы экспертов. Нулевая гипотеза отклоняется. Но разве можно говорить о согласованности?
Эксперту гораздо легче на каждом шагу сравнивать только два объекта. Пусть он занимается парными сравнениями. Непараметрическая теория парных сравнений (теория люсианов) позволяет решать более сложные задачи, чем статистика ранжировок или разбиений. В частности, вместо гипотезы равномерного распределения можно рассматривать гипотезу однородности, т.е. вместо совпадения всех распределений с одним фиксированным (равномерным) можно проверять лишь совпадение распределений мнений экспертов между собой, что естественно трактовать как согласованность их мнений. Таким образом, удается избавиться от неестественного предположения равномерности.
При отсутствии согласованности экспертов естественно разбить их на группы сходных по мнению. Это можно сделать различными методами статистики объектов нечисловой природы, относящимися к кластер-анализу, предварительно введя метрику в пространство мнений экспертов. Идея американского математика Джона Кемени об аксиоматическом введении метрик нашла многочисленных продолжателей. Однако методы кластер-анализа обычно являются эвристическими. В частности, обычно невозможно с позиций статистической теории строго обосновать "законность" объединения двух кластеров в один. Имеется важное исключение - для независимых парных сравнений (люсианов) разработаны методы, позволяющие проверять возможность объединения кластеров как статистическую гипотезу. Это - еще один аргумент за то, чтобы рассматривать теорию люсианов как ядро математических
Нахождение итогового мнения комиссии экспертов. Пусть мнения комиссии экспертов или какой-то ее части признаны согласованными. Каково же ее итоговое (среднее, общее) мнение? Согласно идее Джона Кемени следует найти среднее мнение как решение оптимизационной задачи. А именно, надо минимизировать суммарное расстояние от кандидата в средние до мнений экспертов. Найденное таким способом среднее мнение называют "медианой Кемени".
Математическая сложность состоит в том, что мнения экспертов лежат в некотором пространстве объектов нечисловой природы. Общая теория подобного усреднения рассмотрена выше (см. 5.5). В частности, показано, что в силу закона больших чисел (в пространствах произвольной природы) среднее мнение при увеличении числа экспертов (чьи мнения независимы и одинаково распределены) приближается к некоторому пределу, который, как известно, является математическим ожиданием (случайного элемента, имеющего то же распределение, что и ответы экспертов).
В конкретных пространствах нечисловых мнений экспертов вычисление медианы Кемени может быть достаточно сложным делом. Кроме свойств пространства, велика роль конкретных метрик. Так, в пространстве ранжировок при использовании метрики, связанной с коэффициентом ранговой корреляции Кендалла, необходимо проводить достаточно сложные расчеты, в то время как применение показателя различия на основе коэффициента ранговой корреляции Спирмена приводит к упорядочению по средним арифметическим рангам.
Бинарные отношения и расстояние Кемени. Как известно, бинарное отношение $$A$$ на конечном множестве $$Q = \{q_1, q_2,..., q_k\}$$ - это подмножество декартова квадрата $$Q^2 = \{(q_m , q_n), m,n = 1, 2, ..., k\}$$. При этом пара $$(q_m , q_n)$$ входит в $$A$$ тогда и только тогда, когда между $$q_m$$ и $$q_n$$ имеется рассматриваемое отношение.
Напомним, что каждую кластеризованную ранжировку, как и любое бинарное отношение, можно задать квадратной матрицей $$||x(a,b)||$$ из 0 и 1 порядка $$k\times k$$. При этом $$x(a, b) = 1$$ тогда и только тогда, когда $$a < b$$ либо $$a = b$$. В первом случае $$x(b, a) = 0$$, а во втором $$x(b, a) = 1$$. При этом хотя бы одно из чисел $$x(a, b))$$ и $$x(b, a)$$ равно 1.
В экспертных методах используют, в частности, такие бинарные отношения, как ранжировки (упорядочения, или разбиения на группы, между которыми имеется строгий порядок), отношения эквивалентности, толерантности (
Определение. Расстоянием Кемени между бинарными отношениями $$A$$ и $$B$$, описываемыми матрицами $$|| a(i ,j) ||$$ и $$|| b(i ,j) ||$$ соответственно, называется число$$d(A, B) = \Sigma |a(i ,j) - b(i ,j)|,$$ где суммирование производится по всем $$i, j$$ от 1 до $$k$$, т.е. расстояние Кемени между бинарными отношениями равно сумме модулей разностей элементов, стоящих на одних и тех же местах в соответствующих им матрицах.
Легко видеть, что расстояние Кемени - это число несовпадающих элементов в матрицах $$||a(i,j)||$$ и $$||b(i,j)||$$.
Расстояние Кемени основано на некоторой системе аксиом. Эта система аксиом и вывод из нее формулы для расстояния Кемени между упорядочениями содержится в книге []. Она сыграла большую роль в развитии в нашей стране такого научного направления, как анализ нечисловой информации (см. историю вопроса в монографиях [, ]). В дальнейшем под влиянием работ Дж. Кемени были предложены различные системы аксиом для получения расстояний в тех или иных нужных для социально-экономических, технических, медицинских и иных исследований пространствах (см. 1.6).
Медиана Кемени и законы больших чисел. С помощью расстояния Кемени находят итоговое мнение комиссии экспертов. Пусть $$A_1 , A_2 , A_3 ,..., A_p$$ - ответы $$p$$ экспертов, представленные в виде бинарных отношений. Для их усреднения используют медиану Кемени$$Arg\min_A\sum_{i=1}^pd(A_i,A),$$ где $$Arg\min$$ - то или те значения $$A$$, при которых достигает минимума указанная сумма расстояний Кемени от ответов экспертов до текущей переменной $$A$$, по которой и проводится минимизация. Таким образом,$$\sum_{i=1}^p d(A_i,A)=d(A_1,A)+d(A_2,A)+d(A_3,A)+...+d(A_p,A).$$
Кроме медианы Кемени, используют среднее по Кемени, в котором вместо $$d(A_i, A)$$ стоит $$d^2(A_i, A)$$.
Медиана Кемени - частный случай определения эмпирического среднего в пространствах нечисловой природы. Для нее справедлив закон больших чисел, т.е. эмпирическое среднее приближается при росте числа составляющих (т.е. $$p$$ - числа слагаемых в сумме) к теоретическому среднему:$$Arg\min\sum d(A_i,A)\rightarrow Arg\min M d(A_1,A).$$
Здесь $$M$$ - символ математического ожидания. Предполагается, что ответы $$p$$ экспертов $$A_1, A_2, A_3,..., A_p$$ есть основания рассматривать как независимые одинаково распределенные случайные элементы (т.е. как
Законы больших чисел показывают, во-первых, что медиана Кемени обладает устойчивостью по отношению к незначительному изменению состава экспертной комиссии; во-вторых, при увеличении числа экспертов она приближается к некоторому пределу. Его естественно рассматривать как истинное мнение экспертов, от которого каждый из них несколько отклонялся по случайным причинам.
Вычисление медианы Кемени - задача
Рассмотрим упрощенный пример вычисления медианы Кемени. Пусть дана квадратная матрица (порядка 9) попарных расстояний для множества бинарных отношений из 9 элементов $$A_1 , A_2 , A_3 ,..., A_9$$ (см. табл.11.4). Пусть требуется найти в этом множестве медиану для множества из 5 элементов $$\{A_2 , A_4 , A_5 , A_8, A_9\}$$.
| $$A_1$$ | $$A_2$$ | $$A_3$$ | $$A_4$$ | $$A_5$$ | $$A_6$$ | $$A_7$$ | $$A_8$$ | $$A_9$$ | |
| $$A_1$$ | 0 | 2 | 13 | 1 | 7 | 4 | 10 | 3 | 11 |
| $$A_2$$ | 2 | 0 | 5 | 6 | 1 | 3 | 2 | 5 | 1 |
| $$A_3$$ | 13 | 5 | 0 | 2 | 2 | 7 | 6 | 5 | 7 |
| $$A_4$$ | 1 | 6 | 2 | 0 | 5 | 4 | 3 | 8 | 8 |
| $$A_5$$ | 7 | 1 | 2 | 5 | 0 | 10 | 1 | 3 | 7 |
| $$A_6$$ | 4 | 3 | 7 | 4 | 10 | 0 | 2 | 1 | 5 |
| $$A_7$$ | 10 | 2 | 6 | 3 | 1 | 2 | 0 | 6 | 3 |
| $$A_8$$ | 3 | 5 | 5 | 8 | 3 | 1 | 6 | 0 | 9 |
| $$A_9$$ | 11 | 1 | 7 | 8 | 7 | 5 | 3 | 9 | 0 |
В соответствии с определением медианы Кемени следует ввести в рассмотрение функцию$$C(A)=\sum d(A_i,A)=d(A_2,A)+d(A_4,A)+d(A_5,A)+d(A_8,A)+d(A_9,A),$$ рассчитать ее значения для всех $$A_1, A_2, A_3, ..., A_9$$ и выбрать наименьшее. Проведем расчеты:$$C(A_1)=d(A_2,A_1)+d(A_4,A_1)+d(A_5,A_1)+d(A_8,A_1)+d(A_9,A_1)= \\ = 2+1+7+3+11=24, \\ C(A_2)=d(A_2,A_2)+d(A_4,A_2)+d(A_5,A_2)+d(A_8,A_2)+d(A_9,A_2)= \\ = 0+6+1+5+1=13, \\ C(A_3)=d(A_2,A_3)+d(A_4,A_3)+d(A_5,A_3)+d(A_8,A_3)+d(A_9,A_3)= \\ = 5+2+2+5+7=21, \\ C(A_4)=d(A_2,A_4)+d(A_4,A_4)+d(A_5,A_4)+d(A_8,A_4)+d(A_9,A_4)= \\ = 6+0+5+8+8=27, \\ C(A_5)=d(A_2,A_5)+d(A_4,A_5)+d(A_5,A_5)+d(A_8,A_5)+d(A_9,A_5)= \\ = 1+5+0+3+7=16, \\ C(A_6)=d(A_2,A_6)+d(A_4,A_6)+d(A_5,A_6)+d(A_8,A_6)+d(A_9,A_6)= \\ = 3+4+10+1+5=23, \\ C(A_7)=d(A_2,A_7)+d(A_4,A_7)+d(A_5,A_7)+d(A_8,A_7)+d(A_9,A_7)= \\ = 2+3+1+6+3=15, \\ C(A_8)=d(A_2,A_8)+d(A_4,A_8)+d(A_5,A_8)+d(A_8,A_8)+d(A_9,A_8)= \\ = 5+8+3+0+9=25, \\ C(A_9)=d(A_2,A_9)+d(A_4,A_9)+d(A_5,A_9)+d(A_8,A_9)+d(A_9,A_9)= \\ = 1+8+7+9+0=25.$$
Из всех вычисленных сумм наименьшая равна 13, и достигается она при $$A=A_2$$, следовательно, медиана Кемени - это множество $$\{A_2\}$$, состоящее из одного элемента $$A_2$$.
| Эксперты | Упорядочения |
|---|---|
| 1 | $$1 < \{2,3\} < 4 < 5 < \{6,7\}$$ |
| 2 | $$\{1,3\} < 4 < 2 < 5 < 7 < 6$$ |
| 3 | $$1 < 4 < 2 < 3 < 6 < 5 < 7$$ |
| 4 | $$1 < \{2, 4\} < 3 < 5 < 7 <6$$ |
| 5 | $$2 < 3 < 4 < 5 <1 <6 <7$$ |
| 6 | $$1 < 3 < 2 < 5 < 6 < 7 < 4$$ |
| 7 | $$1 < 5 < 3 < 4 < 2 < 6 < 7$$ |
Найдите:
| $$A_1$$ | $$A_2$$ | $$A_3$$ | $$A_4$$ | $$A_5$$ | $$A_6$$ | $$A_7$$ | $$A_8$$ | $$A_9$$ | |
| $$A_1$$ | 0 | 5 | 3 | 6 | 7 | 4 | 10 | 3 | 11 |
| $$A_2$$ | 5 | 0 | 5 | 6 | 10 | 3 | 2 | 5 | 7 |
| $$A_3$$ | 3 | 5 | 0 | 8 | 2 | 7 | 6 | 5 | 7 |
| $$A_4$$ | 6 | 6 | 8 | 0 | 5 | 4 | 3 | 8 | 8 |
| $$A_5$$ | 7 | 10 | 2 | 5 | 0 | 10 | 8 | 3 | 7 |
| $$A_6$$ | 4 | 3 | 7 | 4 | 10 | 0 | 2 | 3 | 5 |
| $$A_7$$ | 10 | 2 | 6 | 3 | 8 | 2 | 0 | 6 | 3 |
| $$A_8$$ | 3 | 5 | 5 | 8 | 3 | 3 | 6 | 0 | 9 |
| $$A_9$$ | 11 | 7 | 7 | 8 | 7 | 5 | 3 | 9 | 0 |
Статистика нечисловых данных или, как ее еще называют, статистика объектов нечисловой природы была выделена в нашей стране как самостоятельное научное направление. Как уже отмечалось, термин "статистика объектов нечисловой природы" впервые появился в 1979 г. в монографии []. В том же году в работе [] была сформулирована программа развития этого нового направления прикладной статистики.
Со второй половины 80-х годов существенно возрос интерес к этой тематике и у зарубежных исследователей. Это нашло отражение, в частности, на Первом Всемирном Конгрессе Общества математической статистики и теории вероятностей им. Бернулли, состоявшемся в сентябре 1986 г. в Ташкенте. Статистика объектов нечисловой природы используется в нормативно-технической и методической документации, ее применение позволяет получить существенный технико-экономический эффект (сводка дана, например, в статье []).
Цель настоящего параграфа - ввести в статистику нечисловых данных, выделить ее структуру, указать основные идеи и результаты.
Напомним, что объектами нечисловой природы называют элементы пространств, не являющихся линейными. Примерами являются бинарные отношения (ранжировки, разбиения, толерантности), множества, последовательности символов (тексты). Объекты нечисловой природы нельзя складывать и умножать на числа, не теряя при этом содержательного смысла. Этим они отличаются от издавна используемых в прикладной статистике (в качестве элементов выборок) чисел, векторов и функций.
Прикладную статистику по виду статистических данных принято делить на следующие направления:
При создании теории вероятностей и математической статистики исторически первыми были рассмотрены объекты нечисловой природы - белые и черные шары в урне. На основе соответствующих вероятностных моделей были введены биномиальное, гипергеометрическое и другие
В семидесятых годах ХХ в. в связи с запросами практики весьма усилился интерес к статистическому анализу нечисловых данных. Московская группа, организованная Ю.Н. Тюриным и другими специалистами вокруг созданного в 1973 г. научного семинара "Экспертные оценки и нечисловая статистика", развивала в основном вероятностную статистику нечисловых данных. Были установлены разнообразные связи между различными видами объектов нечисловой природы и изучены свойства этих объектов. Московской группой выпущены десятки сборников и обзоров, перечень которых приведен в итоговой работе []. Хотя в названиях многих из этих изданий стоят слова "экспертные оценки", анализ содержания сборников показывает, что подавляющая часть статей посвящена математико-статистическим вопросам, а не проблемам проведения экспертиз. Частое употребление указанных слов отражает лишь один из импульсов, стимулирующих развитие статистики объектов нечисловой природы и идущих от запросов практики. При этом необходимо подчеркнуть, что полученные результаты могут и должны активно использоваться в теории и практике экспертных оценок.
Новосибирская группа (Г.С. Лбов, Б.Г. Миркин и др.), как правило, не использовала вероятностные модели, т.е. вела исследования в рамках анализа данных. В московской группе в рамках анализа данных также велись работы, в частности, Б.Г.Литваком. Исследования по статистике объектов нечисловой природы выполнялись также в Ленинграде, Ереване, Киеве, Таллинне, Тарту, Красноярске, Минске, Днепропетровске, Владивостоке, Калинине и других отечественных научных центрах.
Внутреннее деление статистики объектов нечисловой природы. Внутри рассматриваемого направления прикладной статистики выделяют следующие области.
Единство рассматриваемому направлению придает прежде всего вторая составляющая, позволяющая с единой точки зрения подходить к статистическим задачам описания данных, оценивания, проверки гипотез при рассмотрении выборки, элементы которой имеют ту или иную конкретную природу. Внутри первой составляющей рассматривают:
Перечисленные разделы тесно связаны друг с другом, как продемонстрировано, в частности, в работах [, ] и предыдущих лекциях настоящего курса. Вне данного перечня остались работы по хорошо развитым классическим областям - статистическому контролю, таблицам сопряженности, а также по анализу текстов и некоторые другие (см. [, , ]). Таким образом, кратко рассмотрим постановки вероятностной статистики объектов нечисловой природы (1970-2005 гг.), чтобы представить как единое целое это направление прикладной статистики.
Статистика в пространствах общей природы. Пусть $$x_1,x_2,...,x_n$$ - элементы пространства $$X$$, не являющегося линейным. Как определить среднее значение для $$x_1,x_2,...,x_n$$? Поскольку нельзя складывать элементы $$X$$ и сравнивать их по величине, то необходимы подходы, принципиально новые по сравнению с классическими. В статистике объектов нечисловой природы предложено использовать показатель различия $$d:X^2\rightarrow[0;+\infty)$$ (содержательный смысл показателя различия: чем больше $$d(x,y)$$, тем больше различаются $$x$$ и $$y$$ ) и определять эмпирическое среднее как решение экстремальной задачи$$E_n(d)=Arg\min\left\{\sum_{1\le i\le n}d(x_i,x), x\in X\right\}.$$
Таким образом, среднее $$E_n(d)$$ - это совокупность всех тех $$x\in X$$, для которых функция$$f_n(x)=\frac{1}{n}\sum_{1\le i\le n}d(x_i,x)$$ достигает минимума на $$X$$.
Как известно, для классического случая $$X = R^1$$ при $$d(x,y) = (x-y)^2$$ имеем $$E_n(d) = \overline{x}$$. При $$X = R^1, d(x,y)=|x-y|$$ среднее $$E_n(d)$$ при нечетном объеме выборки совпадает с выборочной медианой. А при четном объеме - $$E_n(d)$$ является отрезком с концами в двух средних элементах вариационного ряда.
Для ряда конкретных объектов среднее как решение экстремальной задачи вводилось рядом авторов. В 1929 г. итальянские статистики Джини и Гальвани применили такой подход для усреднения точек на плоскости и в пространстве. Американский исследователь Джон Кемени решение задачи (1) называл медианой или средним для выборки, состоящей из ранжировок (см. монографию []). При моделировании лесных пожаров согласно выражению (1) было введено "среднеуклоняемое множество" для описания средней выгоревшей площади (см. об этом в монографии []). Общее определение эмпирических средних вида (1) было впервые введено в работе [].
Основной результат, связанный со средними вида (1) - аналог закона больших чисел. Пусть $$x_1,x_2,..., x_n$$ - независимые одинаково распределенные случайные элементы со значениями в пространстве общей природы $$X$$. Теоретическим средним, или математическим ожиданием, в статистике объектов нечисловой природы называют$$E_n(x_1,d)=Arg\min\{Md(x_1,x),x\in X\}.$$
Закон больших чисел состоит в сходимости $$E_n(d)$$ к $$E_n(x_1,d)$$ при $$n\rightarrow\infty$$. Поскольку и эмпирическое, и теоретическое средние - множества, то понятие сходимости требует уточнения.
Одно из возможных уточнений, впервые введенное в работе [], таково. Для функции$$f(x)=M(d)(x_1(\omega),x), f:X\rightarrow R^1,$$ введем понятие " $$\varepsilon$$ -пятки" ( $$\varepsilon>0$$ )$$K_{\varepsilon}(f)=\{x\in X:f(x)<\inf\{f(y),y\in X\}+\varepsilon\}.$$
Очевидно, $$\varepsilon$$ -пятка $$f$$ - это окрестность $$Arg\min(f)$$ (если он достигается), заданная в терминах минимизируемой функции. Тем самым снимается вопрос о выборе метрики в пространстве $$X$$. Тогда при некоторых условиях регулярности для любого $$\varepsilon>0$$ вероятность события$$\{\omega:E_n(d)\subseteq\K_{\varepsilon}(f)}$$ стремится к 1 при $$n\rightarrow\infty$$, т.е. справедлив закон больших чисел. Подробное доказательство приведено в лекции 5.
Естественное обобщение рассматриваемой задачи позволяет построить общую теорию оптимизационного подхода в статистике. Как известно, большинство задач прикладной статистики может быть представлено в качестве оптимизационных. Как себя ведут решения экстремальных задач? Частные случаи этой постановки: как ведут себя при росте объема выборки
Обычно легко устанавливается, что для некоторых пространств $$X$$ и последовательности случайных функций $$f_n(x)$$ при $$n\rightarrow\infty$$ найдется функция $$f(x)$$ такая, что$$f_n(x)\rightarrow f(x)$$ для любого $$x\in X$$ (сходимость по вероятности). Требуется вывести отсюда, что$$Arg\min f_n(x)\rightarrow Arg\min f(x),$$ т.е. решения экстремальных задач также сходятся. Понятие сходимости в соотношении (8) уточняется, например, с помощью $$\varepsilon$$ -пяток, как это сделано выше для закона больших чисел. Условия регулярности, при которых справедливо предельное соотношение (8), приведены в исследовании []. Практически для всех реальных задач эти условия выполняются.
Как оценить распределение случайного элемента в пространстве общей природы? Поскольку понятие функции распределения неприменимо, естественно использовать непараметрические оценки плотности. Что такое плотность распределения вероятностей в пространстве произвольной природы? Это функция $$g:X\rightarrow[0;+\infty)$$ такая, что для любого измеримого множества (т.е. случайного события) $$A\subseteq X$$ справедливо соотношение$$P(x_1(\omega)\in A)=\int\limits_A g(x)\mu(dx),$$ где $$\mu$$ - некоторая мера в $$X$$. Ряд непараметрических оценок плотности был предложен в работе []. Например, ядерной оценкой плотности является оценка$$g_n(x)=\frac{1}{\nu(h_n,x)}\sum_{1\le i\le n} H\left(\frac{d(x_i,x)}{h_n}\right),$$
где $$d$$ - показатель различия; $$H$$ - ядерная функция; $$h_n$$ - последовательность положительных чисел; $$\nu(h_n, x)$$ - нормирующий множитель. Удалось установить, что статистики типа (10) обладают такими же свойствами, по крайней мере при фиксированном $$x$$, что и их классические аналоги при $$X = R^1$$. В частности, такой же скоростью сходимости. Некоторые изменения необходимы при рассмотрении дискретных $$X$$, каковыми являются многие пространства конкретных объектов нечисловой природы (см. лекцию 5). С помощью непараметрических оценок плотности можно развивать регрессионный анализ, дискриминантный анализ и другие направления в пространствах общей природы.
Для проверки гипотез согласия, однородности, независимости в пространствах общей природы могут быть использованы статистики интегрального типа$$\int f_n(x,\omega)dF_n(x,\omega),$$ где $$f_n(x,\omega)$$ - последовательность случайных функций на $$X; F_n(x,\omega)$$ - последовательность случайных распределений (или зарядов). Обычно $$f_n(x,\omega)$$ при $$n\rightarrow\infty$$ сходится по распределению к некоторой случайной функции $$f(x,\omega)$$, а $$F_n(x,\omega)$$ - к распределению $$F(x)$$. Тогда распределение статистики интегрального типа (11) сходится к распределению случайного элемента$$\int f(x,\omega)dF(x).$$
Условия, при которых это справедливо, даны в ]. Пример применения - вывод предельного распределения статистики типа омега-квадрат для проверки симметрии распределения (см. лекцию 8).
Перейдем к статистике конкретных видов объектов нечисловой природы.
Теория измерений. Цель теории измерений - борьба с субъективизмом исследователя при приписывании численных значений реальным объектам. Так, расстояния можно измерять в верстах, аршинах, саженях, метрах, микронах, милях, парсеках и других единицах измерения. Выбор единиц измерения зависит от исследователя, т.е. субъективен. Статистические выводы могут быть адекватны реальности только тогда, когда они не зависят от того, какую именно единицу измерения предпочтет исследователь, т.е. когда они инвариантны относительно допустимого преобразования шкалы.
Теория измерений известна в нашей стране уже более 30 лет. С начала семидесятых годов активно работают отечественные исследователи. В настоящее время изложение основ теории измерений включают в справочные издания, помещают в научно-популярные журналы и книги для детей. Однако она еще не стала общеизвестной среди специалистов, в частности, среди метрологов. Поэтому опишем одну из задач теории измерений (см. лекцию 8).
Как известно, шкала задается группой допустимых преобразований (прямой в себя). Номинальная шкала (шкала наименований) задается группой всех взаимнооднозначных преобразований, шкала порядка - группой всех строго возрастающих преобразований. Это - шкалы качественных признаков. Группа линейных возрастающих преобразований $$\varphi(x)=ax+b,a>0$$, задает шкалу интервалов. Группа $$\varphi(x)=ax,a>0$$ определяет шкалу отношений. Наконец, группа, состоящая из одного
Практическую пользу теории измерений обычно демонстрируют на примере задачи сравнения средних значений для двух совокупностей одинакового объема $$x_1, x_2,...,x_n$$ и $$y_1, y_2,...,y_n$$. Пусть среднее вычисляется с помощью функции $$f:R^n\rightarrow R^1$$. Если$$f(x_1, x_2,...,x_n)<f(y_1, y_2,...,y_n),$$ то необходимо, чтобы$$f(\varphi(x_1),\varphi(x_2),...,\varphi(x_n))<f(\varphi(y_1),\varphi(y_2),...,\varphi(y_n))$$ для любого допустимого преобразования $$\varphi$$ из задающей шкалу группы $$\Phi$$. (В противном случае результат сравнения будет зависеть от того, какое из эквивалентных представлений шкалы выбрал исследователь.)
Требование равносильности неравенств (13) и (14) вместе с некоторыми условиями регулярности приводят к тому, что в порядковой шкале в качестве средних можно использовать только члены вариационного ряда, в частности, медиану, но нельзя использовать среднее геометрическое, среднее арифметическое, и т.д. В количественных шкалах это требование выделяет из всех обобщенных средних по А.Н. Колмогорову в шкале интервалов - только среднее арифметическое, а в
Приведенные результаты о средних величинах применялись, например, при проектировании системы датчиков в АСУ ТП доменных печей. Велико прикладное значение теории измерений в задачах стандартизации и управления качеством, в частности, в квалиметрии. Так, В.В. Подиновский показал, что любое изменение коэффициентов весомости единичных показателей качества продукции приводит к изменению упорядочения изделий по средневзвешенному показателю, а Н.В. Хованов развил одну из возможных теорий
Статистика бинарных отношений. Оценивание центра распределения случайного бинарного отношения проводят обычно с помощью медианы Кемени. Состоятельность вытекает из закона больших чисел []. Разработаны различные вычислительные процедуры нахождения медианы Кемени.
Методы проверки гипотез развиты отдельно для каждой разновидности бинарных отношений. В области статистики ранжировок, или ранговой корреляции, классической является книга Кендалла []. Современные достижения отражены в работах Ю.Н. Тюрина и Д.С. Шмерлинга. Статистика случайных разбиений развита А.В. Маамяги. Статистика случайных толерантностей (рефлексивных симметричных отношений) впервые изложена в работе []. Многие ее задачи являются частными случаями задач теории люсианов.
Теория люсианов (бернуллиевских векторов). Люсиан (бернуллиевский вектор) - это последовательность
В рассматриваемой теории изучают методы проверки согласованности (одинаковой распределенности), однородности двух выборок, независимости люсианов. Методы проверки указанных гипотез нацелены на ситуацию, когда число бернуллиевских векторов фиксировано, а их длина растет. При этом число неизвестных параметров возрастает пропорционально объему данных, т.е. теория построена в асимптотике растущего числа параметров. Ранее подобная асимптотика под названием асимптотики А.Н. Колмогорова использовалась в дискриминантном анализе, но там применялись совсем другие методы для решения иных задач прикладной статистики.
Непараметрическая теория парных сравнений (в предположении независимости результатов отдельных сравнений) - часть теории бернуллиевских векторов. Параметрическая теория связана в основном с попытками выразить вероятности того или иного исхода через значения гипотетических или реальных параметров сравниваемых объектов. Известны модели Терстоуна, Бредли-Терри-Льюса и др. В нашей стране построен ряд новых моделей парных сравнений. В частности, имеются модели парных сравнений с тремя исходами (больше, меньше, неразличимо), модели зависимых сравнений, сравнений нескольких объектов (сближающие рассматриваемую область с теорией случайных ранжировок) и т.д.
Статистика случайных и нечетких множеств. Давнюю историю имеет статистика случайных геометрических объектов (отрезков, треугольников, кругов и т.д.). Современная теория случайных множеств сложилась при изучении пористых сред и объектов сложной природы в таких областях, как металлография, петрография, биология. Различные направления внутри этой теории рассмотрены в работе [, гл.4]. Остановимся на двух.
Случайные множества, лежащие в евклидовом пространстве, можно складывать: сумма множеств $$A$$ и $$B$$ - это объединение всех векторов $$x+y$$, где $$x\in A, y\in B$$ Н.Н. Ляшенко получил аналоги законов больших чисел, Центральной предельной теоремы, ряда методов прикладной статистики, систематически используя подобные суммы.
Для статистики объектов нечисловой природы интереснее подмножества пространств, не являющихся линейными. В работе [] рассмотрены некоторые задачи теории конечных случайных множеств. Позже ряд интересных результатов получил С.А. Ковязин, в частности, он доказал нашу гипотезу о справедливости закона больших чисел при использовании расстояния между множествами$$d(a,b)=\mu(A\Delta B),$$ где $$\mu$$ - некоторая мера; $$\Delta$$ - знак симметрической разности. Расстояние (15) выведено из некоторой системы аксиом в монографии []. Прикладники также делают попытки развивать и применять методы статистики случайных множеств.
С теорией случайных множеств тесно связана теория нечетких множеств, начало которой положено статьей Л.А. Заде в 1965 г. Это направление прикладной математики получило бурное развитие - к настоящему времени число публикаций измеряется десятками тысяч, выпускаются международные журналы, постоянно проводятся конференции, практические приложения дали ощутимый технико-экономический эффект. При изложении теории нечетких множеств обычно не подчеркивается связь с вероятностными моделями. Между тем еще в первой половине 1970-х годов было установлено [], что теория нечеткости в определенном смысле сводится к теории случайных множеств, хотя эта связь, возможно, имеет лишь теоретическое значение (см. 4.6).
С точки зрения статистики нечисловых данных нечеткие множества - лишь один из видов объектов нечисловой природы. Поэтому к ним применима общая теория, развитая для пространств произвольной природы. Имеются работы, в которых совместно используются соображения вероятности и нечеткости [].
Многомерное шкалирование и аксиоматическое введение метрик. Многомерное шкалирование имеет целью представление объектов точками в пространстве небольшой размерности (1-3) с максимально возможным сохранением расстояний между точками (см. 9.6).
Из сказанного выше ясно, какое большое место занимают в статистике объектов нечисловой природы метрики (расстояния). Как их выбрать? Предлагают выводить вид метрик из некоторых систем аксиом. Аксиоматически получена метрика в пространстве ранжировок, которая оказалась линейно связанной с коэффициентом ранговой корреляции Кендалла. Метрика (15) в пространстве множеств получена в работе [] также исходя из некоторой системы аксиом. Г.В. Раушенбахом [] дана сводка по аксиоматическому подходу к введению метрик в пространствах нечисловой природы. К настоящему времени практически для каждой используемой в прикладных работах метрики удалось подобрать систему аксиом, из которой чисто математическими средствами можно вывести именно эту метрику.
Применения статистики объектов нечисловой природы. Идеи, подходы, результаты статистики объектов нечисловой природы оказались полезными и в классических областях прикладной статистики. Статистика в пространствах общей природы позволила с единых позиций рассмотреть всю прикладную статистику, в частности, показать, что регрессионный, дисперсионный и дискриминантный анализы являются частными случаями общей схемы регрессионного анализа в пространстве произвольной природы. Поскольку структура модели - объект нечисловой природы, то ее оценивание, в частности, оценивание степени полинома в регрессии, также относится к статистике нечисловых данных. Если учесть, что результаты измерения всегда имеют погрешности, т.е. являются не числами, а интервалами или нечеткими множествами, то приходим к необходимости пересмотреть некоторые выводы теоретической статистики. Например, отсутствует состоятельность оценок, нецелесообразно увеличивать объем выборок сверх некоторого предела (см. лекцию 12).
Технико-экономическая эффективность от применения методов статистики нечисловых данных достаточно высока. К сожалению, из-за изменения экономической ситуации, в частности, из-за инфляции трудно сопоставить конкретные экономические результаты в разные моменты времени. Кроме того, методы статистики объектов нечисловой природы составляют часть методов прикладной статистики. А те, в свою очередь - часть методов, входящих в систему информационной поддержки принятия решений на предприятии. Какую часть приращения прибыли предприятия надо отнести на эту систему? Мы знаем, как работает система управления фирмой в настоящем виде. Но можем только гадать (а точнее, оценивать, скорее всего, с помощью экспертных оценок), каковы были бы результаты финансово-хозяйственной деятельности предприятия, если бы система управления фирмой была бы иной, например, не содержала методов статистики объектов нечисловой природы.
Статистика объектов нечисловой природы как часть прикладной статистики продолжает бурно развиваться. В частности, увеличивается количество ее практически полезных применений при анализе конкретных экономических данных - в маркетинговых исследованиях, контроллинге, при управлении предприятием и др.
В прикладных исследованиях обычно используют три конкретных вида бинарных отношений - ранжировки, разбиения и толерантности. Статистические теории ранжировок [] и разбиений [] достаточно сложны с математической точки зрения. Поэтому продвинуться удается не очень далеко. Теория случайных ранжировок, в частности, изучает в основном равномерные распределения на множестве ранжировок. Теория случайных толерантностей позволяет рассмотреть более общие ситуации. Это объясняется, грубо говоря, тем, что для теории толерантностей оказываются полезными суммы некоторых независимых случайных величин, а для теории ранжировок и разбиений аналогичные случайные величины зависимы. Теория случайных толерантностей является частным случаем теории люсианов, рассматриваемой в 11.3. Здесь приводим результаты, специфичные именно для толерантностей.
Пусть $$X$$ - конечное множество из $$k$$ элементов. Толерантность $$A$$ на множестве $$X$$, как и любое бинарное отношение, однозначно описывается матрицей $$||a(i, j), 1\le i, j \le k ||$$, где $$a(i, j) = 1$$, если элементы с номерами $$i$$ и $$j$$ связаны отношением толерантности, и $$a(i, j) = 0$$ в противном случае. Поскольку толерантность - это рефлексивное и симметричное бинарное отношение, то достаточно рассматривать часть матрицы, лежащую над
Пусть $$A = A(\omega)$$ - случайная толерантность, равномерно распределенная на множестве всех толерантностей на $$X$$. Легко видеть, что в этом случае $$a(i, j), 1 \le i<j \le k$$, - независимые случайные величины, принимающие значения 0 и 1 с вероятностями 0,5. Этот факт, несмотря на свою математическую тривиальность, является решающим для построения теории случайных толерантностей. Для аналогичных постановок в теории ранжировок и разбиений величины $$a(i, j)$$ оказываются зависимыми.
Следовательно, случайная величина$$B(A)=\sum_{i=1}^k\sum_{j=1}^k a(i,j)$$
имеет
Проверка гипотез о согласованности. Рассмотрим $$s$$ независимых толерантностей $$A_1, A_2, ..., A_s$$, равномерно распределенных на множестве всех толерантностей на $$X$$. Рассмотрим вектор$$\xi_{ks}=\{d(A_p,A_q),1\le p<q\le s\} = \sum_{1\le i<j\le s}\{|a_p(i,j)-a_q(i,j)|,1\le p<q\le s\},$$ где $$d(A_p, A_q)$$ - расстояние между толерантностями $$A_p$$ и $$A_q$$, аксиоматически введенное в лекции 1. В (1) предполагается, что пары $$(p, q), p < q$$, располагаются в раз и навсегда установленном порядке, для определенности - в лексиграфическом (т.е. пары упорядочиваются в соответствии со значением $$p$$, а при одинаковых $$p$$ - по значению $$q$$ ).
Вектор $$\xi_{ks}$$ является суммой $$k(k-1)/2$$ независимых одинаково распределенных случайных векторов, а потому асимптотически нормален при $$k\rightarrow\infty$$. Координаты этого вектора независимы, поскольку, как нетрудно видеть, координаты каждого слагаемого независимы (это свойство не сохраняется при отклонении от равномерности распределения). Распределения случайных величин $$a_p(i,j)$$ и $$|a_p(i,j)-a_q(i,j)|$$ совпадают, поэтому распределения $$B(A)$$ и $$d(A_p, A_q)$$ также совпадают.
В силу многомерной центральной предельной теоремы (лекция 4) распределение вектора$$\eta_{ks}=\sqrt{\frac{2}{k(k-1)}}\left(\xi_{rs}-\frac{k(k-1)}{2}\left(\frac12,\frac12,...,\frac12\right)\right)$$ сходится при $$k\rightarrow\infty$$ к распределению многомерного нормального вектора $$\eta_s$$, ковариационная матрица которого совпадает с ковариационной матрицей вектора $$\eta_{ks}$$, а математическое ожидание равно 0. Таким образом, координаты случайного вектора $$\eta_s$$ независимы и имеют стандартное нормальное распределение с математическим ожиданием 0 и дисперсией 1. В соответствии с теоремами о наследовании сходимости (лекция 4) распределение $$f(\eta_{ks})$$ сходится при $$k\rightarrow\infty$$ к распределению $$f(\eta_s)$$ для достаточно широкого класса функций $$f$$, в частности, для всех непрерывных функций. В качестве примеров рассмотрим статистики$$W=\sum_{1\le p<q\le s}d(A_p,A_q),N=\sum_{1\le p<q\le s}\left(d(A_p,A_q)-\frac{k(k-1)}{4}\right)^2.$$
При $$k\rightarrow\infty$$ распределения случайных величин$$\frac{8W-s(s-1)k(k-1)}{2\sqrt{s(s-1)k(k-1)}},\frac{8N}{k(k-1)}$$ сходятся соответственно к стандартному нормальному распределению с математическим ожиданием 0 и дисперсией 1 и распределению хи-квадрат с $$s(s - 1)/2$$ степенями свободы. Статистики $$W$$ и $$N$$ могут быть использованы для проверки гипотезы о равномерности распределения толерантностей.
Как известно, в теории ранговой корреляции [], т.е. в теории случайных ранжировок, в качестве единой выборочной меры связи нескольких признаков используется коэффициент согласованности $$W(R)$$, называемый также коэффициентом конкордации [, табл.6.10]. Его распределение затабулировано в предположении равномерности распределения на пространстве ранжировок (без связей). Непосредственным аналогом $$W(R)$$ в случае толерантностей является статистика $$W$$. Статистики $$W$$ и $$N$$ играют ту же роль для толерантностей, что $$W(R)$$ для ранжировок, однако математико-статистическая теория в случае толерантностей гораздо проще, чем для ранжировок.
Обобщением равномерно распределенных толерантностей являются толерантности с независимыми связями. В этой постановке предполагается, что $$a(i,j), 1\le i<j\le k$$, - независимые случайные величины, принимающие значения 0 и 1. Обозначим $$P(a(i,j) = 1) = p(i,j)$$. Тогда $$P(a(i,j)=0)=1-p(i,j)$$. Таким образом, распределение толерантности с независимыми связями задается нечеткой толерантностью, т.е. вектором$$P=\{p(i,j),1\le i<j\le k\}.$$
Пусть имеется $$s$$ независимых случайных толерантностей $$A_1, A_2, ..., A_s$$ с независимыми связями, распределения которых задаются векторами $$P_1, P_2, ..., P_s$$ соответственно. Рассмотрим проверку гипотезы согласованности$$H_0:P_1=P_2=...=P_s.$$
Она является более слабой, чем гипотеза равномерности$$H'_0: P_1 = P_2 =...= P_s =(1/2, 1/2, ..., 1/2),$$ для проверки которой используют статистики $$W$$ и $$N$$ (см. выше).
Пусть сначала $$s = 2$$. Тогда$$P\{|a_1(i,j)-a_2(i,j)|=1\}=q(i,j),P\{|a_1(i,j)-a_2(i,j)|=0\}=1-q(i,j),$$ где$$q(i,j)=p_1(i,j)(1-p_2(i,j))+p_2(i,j)(1-p_1(i,j)).$$
Следовательно, расстояние $$d(A_1, A_2)$$ между двумя случайными толерантностями с независимыми связями есть сумма $$k(k - 1)/2$$ независимых случайных величин, принимающих значения 0 и 1, причем математическое ожидание и дисперсия $$d(A_1, A_2)$$ таковы:$$MD(A_1,A_2)=\sum_{1\le i<j\le k} q(i,j), Dd(A_1,A_2)= \sum_{1\le i<j\le k} q(i,j)(1-q(i,j)).$$
Пусть $$k\rightarrow\infty$$. Если $$Dd(A_1, A_2)\rightarrow\infty$$, то условие Линденберга Центральной предельной теоремы теории вероятностей выполнено (см. лекцию 4), и распределение нормированного расстояния$$\frac{d(A_1,A_2)-Md(A_1,A_2)}{\sqrt{Dd(A_1,A_2)}}$$ сходится к стандартному нормальному распределению с математическим ожиданием 0 и дисперсией 1. Если существует число $$\delta>0$$ такое, что при всех $$k, i, j, 1\le i<j\le k$$, вероятности $$p_1(i, j)$$ и $$p_2(i, j)$$ лежат внутри интервала $$(\delta; 1 - \delta)$$, то $$Dd(A_1, A_2) \rightarrow\infty$$.
Соотношения (2), (3) и им подобные позволяют рассчитать
Обычно $$P_1$$ и $$P_2$$ неизвестны. Для проверки гипотезы $$P_1 = P_2$$ в некоторых случаях можно порекомендовать отвергать гипотезу на уровне значимости $$\alpha$$, если $$d(A_1, A_2)\ge d_0$$, где $$d_0$$ есть $$(1-\alpha)$$ -
Пусть$$p =(p_1(i,j) + p_2(i,j))/2, p_1(i,j) = p + \Delta,$$ тогда$$p_2(i,j) = p - \Delta, q= q(i, j) = 2p(1 - p) + 2\Delta^2.$$
Если существует число $$\delta>0$$ такое, что$$q-1/2>\delta>0$$ при всех $$k, i, j$$, то гипотеза $$P_1 = P_2$$ будет отвергаться с вероятностью, стремящейся к 1 при $$k\rightarrow\infty$$. Из (4) следует, что при фиксированном $$p$$ существует $$\Delta$$ такое, что выполнено (5), тогда и только тогда, когда $$0,25<p<0,75$$.
Своеобразие постановки задачи проверки гипотезы состоит в том, что при росте $$k$$ число неизвестных параметров, т.е. координат векторов $$P_i$$, растет пропорционально объему данных. Поэтому и столь далекая от оптимальности процедура, как описанная в двух предыдущих абзацах, представляет некоторый практический интерес. Для случая $$s\ge 4$$ в теории люсианов (11.3) разработаны методы проверки гипотезы согласованности $$H_0: P_1 = P_2 =...= P_s$$.
Нахождение группового мнения. Пусть $$A_1, A_2, ..., A_s$$ - случайные толерантности, описывающие мнения $$s$$ экспертов. Для нахождения группового мнения будем использовать медиану Кемени, т.е. эмпирическое среднее относительно расстояния, введенного в лекции 1. Медианой Кемени является$$A_{cp}=Arg\min_A\sum_{p=1}^s d(A_p,A).$$
Легко видеть, что $$A_{cp}=||a_{cp}(i,j)||$$ удовлетворяет условию: $$a_{cp}(i,j)=1$$, если$$\sum_{p=1}^s a_p(i,j)>\frac{s}{2},$$ и $$a_{cp}(i,j)=0$$, если$$\sum_{p=1}^s a_p(i,j)<\frac{s}{2}.$$
Следовательно, при нечетном $$s$$ групповое мнение $$A_{cp}$$ определяется однозначно. При четном $$s$$ неоднозначность возникает в случае$$\sum_{p=1}^s a_p(i,j)=\frac{s}{2}.$$
Тогда медиана Кемени $$A_{cp}$$ - не одна толерантность, а множество толерантностей, минимум суммы расстояний достигается и при $$a_{cp}(i,j)=1$$, и при $$a_{cp}(i,j)=0$$.
Асимптотическое поведение группового мнения (медианы Кемени для толерантностей) вытекает из общих результатов о законах больших чисел в пространствах произвольной природы (лекция 5), поэтому рассматривать его здесь нет необходимости.
Дихотомические (бинарные) признаки в классической асимптотике. Многое в предыдущем изложении определялось спецификой толерантностей. В частности, особая роль равномерности распределения на множестве всех толерантностей оправдывала специальное рассмотрение статистик $$W$$ и $$N$$ ; аксиоматически введенное расстояние $$d$$ между толерантностями играло важную роль в приведенных выше результатах. Однако модель толерантностей с независимыми связями уже меньше связана со спецификой толерантностей. В ней толерантности можно рассматривать просто как частный случай люсианов. Широко применяется следующая модель порождения данных.
Пусть $$A_1, A_2, ..., A_s$$ - независимые люсианы. Это значит, что статистические данные имеют вид$$(A_1, A_2, ..., A_s) = ||X_{ij}, i=1,2,...,s; j = 1, 2, ..., k||,$$
где $$X_{ij}$$ - независимые в совокупности
Как обычно в математической статистике, содержательные результаты при изучении модели (6) - (7) можно получить в асимптотических постановках. При этом есть два принципиально разных предельных перехода: $$s\rightarrow\infty$$ и $$k\rightarrow\infty$$. Первый из них - традиционный: число неизвестных параметров постоянно,
Вторая постановка изучается в следующем параграфе, посвященном люсианам. Некоторые задачи в первой постановке рассмотрим здесь.
Случайные толерантности используются, в частности, для оценки нечетких толерантностей []. Для описания результатов опроса группы экспертов о сходстве объектов строят нечеткую толерантность $$M=||\mu_{ij}||, \mu_{ij}=l_{ij}/n_{ij}$$, где $$n_{ij}$$ - число ответов о сходстве $$i$$ -го и $$j$$ -го объектов, а $$l_{ij}$$ - число положительных ответов из них. Если эксперты действуют в соответствии с единым вектором параметров $$P$$, то $$М$$ - состоятельная оценка для $$P$$. Следующий вопрос при таком подходе - верно ли, что две группы экспертов "думают одинаково", т.е. используют совпадающие вектора $$P$$? Рассмотрим эту постановку на более общем языке люсианов.
Пусть $$A_1, A_2, ..., A_m$$ и $$B_1, B_2, ..., B_n$$ - независимые в совокупности люсианы, одинаково распределенные в каждой группе с параметрами $$P(A)$$ и $$P(B)$$ соответственно. Требуется проверить гипотезу $$P(A) = P(B)$$. Естественным является переход к пределу при $$\min(m,n)\rightarrow\infty$$.
Пусть гипотеза справедлива. Предположим, что $$p_i = p_i(A) = p_i(B) \ne 0$$ при всех $$i = 1, 2, ..., k$$. (Разбор нарушений этого условия очевиден.) Пусть $$s_i$$ - число единиц на $$i$$ -м месте в первой группе люсианов, а $$t_i$$ - во второй. Рассмотрим случайные величины$$\xi_i=\frac{mn}{m+n}\left(\frac{s_i}{m}-\frac{t_i}{n}\right)\frac{1}{\sqrt{p_i(1-p_i)}}.$$
Они независимы в совокупности. В соответствии с результатами , с.529]$$p_i^*=\frac{s_i+t_i}{m+n}.$$
Подставим (9) в (8), получим статистики$$\xi_i^*=\sqrt{\frac{mn(m+n)}{(s_i+t_i)(m+n-s_i-t_i)}}\left(\frac{s_i}{m}-\frac{t_i}{n}\right).$$
Полученные статистики можно использовать для проверки рассматриваемой гипотезы, например, с помощью критериев, основанных на статистиках$$W=\frac{1}{\sqrt{k}}\sum_{i=1}^k a_i\xi_i^*,\; T\sum_{i=1}^k(\xi_i^*)^2,\;\sum_{i=1}^k a_i^2=1.$$
С помощью результатов лекции 4 получаем, что $$W$$ имеет в пределе при $$\min(m, n)\rightarrow\infty$$ стандартное нормальное распределение, а $$T$$ - распределение хи-квадрат с $$k$$ степенями свободы.
Рассмотрим распределение статистики $$W$$ при альтернативных гипотезах. Положим \eta_{1m}^i= \frac{\sqrt{m}\left(\frac{s_i}{m}-p_i(A)\right)}{\sqrt{p_i(A)(1-p_i(A))}},\; \eta_{2n}^i= \frac{\sqrt{n}\left(\frac{t_i}{n}-p_i(B)\right)}{\sqrt{p_i(B)(1-p_i(B))}}.
Эти случайные величины независимы, распределение каждой из них при $$\min(m, n)\rightarrow\infty$$ сходится к стандартному нормальному распределению. Поскольку$$\frac{s_i}{m}=\frac{\eta_{1m}^i}{\sqrt{m}}\frac{p_i(A)(1-p_i(A))}+p_i(A), \frac{t_i}{n}=\frac{\eta_{2n}^i}{\sqrt{n}}\frac{p_i(B)(1-p_i(B))}+p_i(B),$$ то$$\sqrt{\frac{mn}{m+n}}\left(\frac{s_i}{m}-\frac{t_i}{n}\right)=F+G,$$ где$$F=\frac{mn}{m+n} \left( \frac{\eta_{1m}^i}{\sqrt{m}}\sqrt{p_i(A)(1-p_i(A))}- \frac{\eta_{2n}^i}{\sqrt{n}}\sqrt{p_i(B)(1-p_i(B))} \right)$$ и$$G=\frac{mn}{m+n}(p_i(A)-p_i(B)).$$
В силу результатов лекции 4 распределение $$F$$ при $$\min(m, n)\rightarrow\infty$$ сближается с нормальным распределением, математическое ожидание которого равно 0, а дисперсия$$\frac{n}{m+n}p_i(A)(1-p_i(A))+\frac{m}{m+n}p_i(B)(1-p_i(B))\le\frac14.$$
Поэтому, чтобы получить собственное (т.е. невырожденное) распределение $$W$$ при альтернативах, естественно рассмотреть модель$$p_i(A)=p_i+\frac{\theta_i}{2}\sqrt{\frac{m+n}{mn}}\sqrt{p_i(1-p_i)},\; p_i(B)=p_i-\frac{\theta_i}{2}\sqrt{\frac{m+n}{mn}}\sqrt{p_i(1-p_i)},\; i=1,2,...,k,$$ где $$\theta_i$$ - некоторые фиксированные числа. Тогда при $$\min(m, n)\rightarrow\infty$$ оценки $$p_i^*$$ из (9) сходятся к $$p_i$$ и $$\xi_i^*$$ являются независимыми асимптотически нормальными случайными величинами с математическими ожиданиями $$\theta_i$$ и единичными дисперсиями. Опираясь на результаты лекции 4, заключаем, что распределение статистики $$W$$ сходится к нормальному распределению с математическим ожиданием$$\theta_0=\frac{1}{\sqrt{k}}\sum_{i=1}^k a_i\theta_i$$ и единичной дисперсией.
Если в последней формуле $$\theta_0 = 0$$, то асимптотическое распределение $$W$$ таково же, как и в случае справедливости нулевой гипотезы. От указанного недостатка свободна статистика $$T$$. Тем же путем, как и для $$W$$, получаем, что при $$\min(m, n)\rightarrow\infty$$ распределение $$T$$ сходится к нецентральному хи-квадрат распределению с $$k$$ степенями свободы и параметром нецентральности$$\Theta=\sum_{i=1}^k\theta_i^2.$$
Можно рассматривать ряд других задач, например, проверку совпадения параметров для нескольких групп люсианов (аналог
Асимптотика растущей размерности и проверяемые гипотезы. Продолжим изучение модели порождения данных (6) - (7) предыдущего параграфа. Будем использовать асимптотику $$s = \text{const}, k\rightarrow\infty$$. При этом число неизвестных параметров растет пропорционально объему данных.
В последние десятилетия (с начала 1970-х годов) в прикладной статистике все большее распространение получают постановки, в которых число неизвестных параметров растет вместе с объемом выборки. Результаты, полученные в подобных постановках, называют найденными "в асимптотике растущей размерности" или "в асимптотике А.Н.Колмогорова" [], перенося терминологию исследований по дискриминантному анализу на общий случай. Как известно, в задаче дискриминации в две совокупности академик АН СССР А.Н. Колмогоров (1903 - 1987) предложил рассматривать асимптотику$$A\rightarrow\infty, N_i\rightarrow\infty, \frac{A}{N_i}\rightarrow\lambda_i>0, i=1,2,$$
где $$A$$ - размерность пространства (число признаков), $$N_i$$ - объемы обучающих выборок, $$\lambda_i$$ - константы, $$i = 1,2$$. Эта асимптотика естественна при обработке организационно-экономических, социологических, медицинских данных, поскольку число признаков, определяемых для каждого изучаемого объекта, респондента или пациента, обычно имеет тот же порядок, что и
Пусть $$A_1, A_2, ..., A_s$$ - независимые (между собой) люсианы с векторами параметров $$P_1, P_2, ..., P_s$$ соответственно. Гипотезой согласованности будем называть гипотезу$$P_1=P_2=...=P_s.$$
Для ранжировок и разбиений под согласованностью понимают более частную гипотезу, предполагающую отрицание равномерности распределений (т.е. одинаковой вероятности появления каждой возможной ранжировки или разбиения), что соответствует замене проверки гипотезы (1) на проверку гипотезы$$P_1 = P_2 = ...= P_s = (1/2, 1/2, ..., 1/2).$$
Как разъяснено в [,], гипотеза (1) более адекватна конкретным задачам обработки реальных данных, например, экспертных оценок, чем (2). Поэтому полученные от экспертов данные, содержащие противоречия, целесообразно рассматривать как люсианы и проверять гипотезу (1), а не подбирать ближайшие ранжировки или разбиения, после чего проверять согласованность методами теории случайных ранжировок или разбиений, как иногда рекомендуется.
Пусть $$A_1, A_2, ..., A_m$$ и $$B_1, B_2, ..., B_n$$ - независимые в совокупности люсианы длины $$k$$, одинаково распределенные в каждой группе с параметрами $$P(A)$$ и $$P(B)$$ соответственно. Гипотезой однородности называется гипотеза$$P(A) = P(B).$$
В асимптотике растущей размерности принимаем, что $$m$$ и $$n $$ постоянны, а $$k\rightarrow\infty$$.
Пусть $$(A_i, B_i), i = 1, 2, ..., s$$ - последовательность (фиксированной длины) пар люсианов. Пары предполагаются независимыми между собой. Требуется проверить гипотезу независимости $$A_i$$ и $$B_i$$, т.е. внутри пар. В ранее введенных обозначениях гипотеза независимости - это гипотеза$$\begin{gathered} P(X_{ij}(A) = 1, X_{ij}(B) = 1) = P(X_{ij}(A) = 1)P(X_{ij}(B) = 1), \\ i = 1, 2, ..., s; j = 1, 2, ..., k, \end{gathered}$$ проверяемая в предположении$$P_1(A) = P_2(A) = ... = P_s(A), P_1(B) = P_2(B) = ... = P_s(B).$$
В настоящем параграфе излагается метод проверки гипотез о люсианах в асимптотике растущей размерности на примере гипотезы согласованности. Эти результаты получены в [, , ]. Дальнейшее изучение проведено нашими учениками Г.В. Рыдановой, Т.Н. Дылько, Г.В. Раушенбахом, О.В. Филипповым, А.М. Никифоровым и др. Гипотеза однородности рассмотрена, например, в []. Методы проверки гипотезы однородности люсианов развиты и изучены Г.В. Рыдановой [] на основе описанного ниже подхода. Она, помимо доказательства предельных теорем, подробно изучила скорость сходимости
Методы проверки согласованности люсианов нашли практическое применение, в частности, в медицине. Они были использованы в кардиологии при анализе данных кинетотопографии [, , ]. Эти методы включены в методические рекомендации Академии медицинских наук СССР и Ученого медицинского совета Минздрава СССР по управлению научными медицинскими исследованиями [].
$$Метод проверки гипотез о люсианах в асимптотике растущей размерности$$. Будем использовать дальнейшее развитие метода, описанного в 7.4. Почему нельзя использовать иные подходы, имеющиеся в математической статистике? Поскольку число неизвестных параметров растет вместе с объемом выборки и пропорционально ему, эти параметры не являются мешающими. Отметим, что согласно [] равномерно наиболее мощных критериев не существует, поскольку параметров много. Не останавливаясь на других подходах математической статистики, констатируем необходимость применения метода проверки гипотез по совокупности малых выборок.
Пусть имеются $$k$$ выборок, независимых между собой. Пусть при справедливости нулевой гипотезы по каждой из выборок можно построить несмещенную оценку $$\xi\in R^p$$ векторного нуля $$0\in R^p$$, где $$p \ge 1, i = 1, 2, ..., k$$. Другими словами, пусть распределение $$i$$ -ой выборки описывается параметром $$\theta_i$$, лежащим в произвольном пространстве, а нулевая гипотеза, очевидно, состоит в том, что $$\theta_i\in \Theta_{0i}$$, где $$\Theta_{0i}$$ - собственное подмножество множества $$\{\theta_i\}$$. Предполагается, что можно по $$i$$ -ой выборке вычислить статистику $$\xi_i$$ такую, что$$M\xi_i=0$$ при всех $$\theta_i\in \Theta_{0i}$$. Очевидно, $$\xi_i \equiv 0$$ удовлетворяют (3). Однако для рассматриваемого метода необходимо, чтобы при всех $$\theta_i\in \Theta_{0i}$$ ковариационная матрица вектора $$\xi_i$$ была ненулевой:$$Cov(\xi_i)=M(\xi_i^T\xi_i)\ne 0.$$
В теории математической статистики иногда используют понятие полноты параметрического семейства распределений. Если рассматриваемое семейство является полным - а так и есть для люсианов, - то не существует достаточной статистики, удовлетворяющей одновременно условиям (3) и (4) (см., например, [, $$\S$$ $$\S$$ 2.12-2.14]). Поэтому будем использовать статистики, не являющиеся достаточными.
Следующее предположение - ковариационные матрицы статистик $$\xi_i$$, т.е. $$Cov(\xi_i)$$, также допускают несмещенные оценки $$S_i$$ по тем же выборкам:$$M(S_i)=Cov(\xi_i)$$ при всех $$\theta_i\in \Theta_{0i}$$.
Рассматриваемый метод основан на том, что поскольку случайные векторы $$\xi_i$$ определяются по независимым между собой выборкам, то $$\xi_i$$ независимы в совокупности, а потому случайный вектор$$\xi=\sum_{i=1}^k\xi_i$$ является суммой независимых случайных векторов, имеет в силу (3) нулевое математическое ожидание, а его ковариационная матрица равна$$C_k= Cov(\xi_i).$$
При справедливости многомерной центральной предельной теоремы (простейшее условие справедливости этой теоремы для $$\xi_i$$ в случае люсианов - отделенность от 0 и 1 всех элементов матриц $$P_j$$, равномерная по $$s$$ и $$k$$ ) вектор $$\xi$$ является асимптотически нормальным, т.е. при $$k\rightarrow\infty$$ распределение $$\xi$$ сближается (в смысле, раскрытом в лекции 4) с многомерным нормальным распределением $$N(0; C_k$$ ).
Однако эту сходимость нельзя непосредственно использовать для проверки исходной гипотезы, поскольку матрица $$C_k$$ неизвестна статистику. Необходимо оценить эту матрицу по статистическим данным. В силу (5) в качестве оценки $$C_k$$ естественно использовать$$C_k^*=\sum_{i=1}^k S_i.$$
Простейшая формулировка условий справедливости такой замены - предположение о том, что к последовательности $$S_i$$ можно применить закон больших чисел. А именно, пусть существует неотрицательно определенная матрица $$C$$ такая, что при $$k\rightarrow\infty$$$$\frac{1}{k}(C_k^*-C_k)\rightarrow 0,\;\frac{1}{k}C_k\rightarrow C.$$
В силу результатов лекции 4 из асимптотической нормальности $$\xi$$ и соотношений (7) следует, что распределение статистики$$\eta=\frac{1}{\sqrt{k}}\xi$$ сходится к нормальному распределению $$N(0; C)$$. При этом, если некоторый случайный вектор $$\tau$$ имеет распределение $$N(0; C)$$, то распределение случайной величины $$q(\eta)$$ сходится к распределению $$q(\tau)$$ для произвольной интегрируемой по Риману по любому кубу функции $$q: R^p > R^1$$. Для проверки нулевой гипотезы предлагается пользоваться статистикой $$q(\eta)$$ при подходящей функции $$q$$, а процентные точки брать соответственно распределению $$q(\tau)$$. В этом и состоит рассматриваемый метод проверки гипотез о люсианах в асимптотике растущей размерности. Для реальных расчетов целесообразно использовать линейные или квадратические функции $$q$$ от координат вектора $$\eta$$.
Отклонения от нулевой гипотезы приводят, как правило, к нарушению равенств (3) и (4). Случайный вектор ? при этом обычно остается асимптотически нормальным, но с другими параметрами, что может быть обычным образом использовано для построения оптимального решающего правила, соответствующего заданной альтернативе (например, согласно лемме Неймана-Пирсона). Поведение при альтернативах для некоторых гипотез изучено в [ $$22$$, $$34$$ ], здесь его не будем рассматривать, поскольку вычисление мощности не требует новых идей.
Несмещенные оценки параметров асимптотического распределения вектора попарных расстояний. Применим описанный выше метод для проверки гипотезы согласованности люсианов. Исходные данные - люсианы$$A_j = (X_{1j}, X_{2j}, ..., X_{kj}), j=1,2,...,s.$$
В качестве $$i$$ -й выборки возьмем совокупность
При справедливости нулевой гипотезы в (8) стоят независимые
В качестве вектора $$\xi$$, на основе которого строятся статистики для проверки согласованности, будем использовать вектор попарных расстояний между люсианами$$\xi=\{d(A_p,A_q), 1\le p<q\le s\},$$ в котором пары $$(p, q)$$ упорядочены лексикографически,$$d(A_p,A_q)=\sum_{i=1}^k\mu_i|X_{ip}-X_{iq}|,\;\mu_i>0.$$
В лекции 1 это расстояние выведено из некоторой системы аксиом (напомним, что совокупность векторов из 0 и 1 размерности $$k$$ находится во взаимнооднозначном соответствии с совокупностью подмножеств множества из $$k$$ элементов; при этом 1 соответствует тому, что элемент входит в подмножество, а 0 - что не входит).
Из вида расстояния в формуле (10) следует, что введенный в (9) вектор $$\xi$$ имеет вид (6) с$$\xi_i = \mu_i\{|X_{ip} - X_{iq}|, 1\le p<q\le s\}.$$
Следовательно, для применения описанного выше метода проверки гипотез о люсианах в асимптотике растущей размерности достаточно построить на основе вектора $$\xi_i$$ из (11) несмещенную оценку 0 и найти несмещенную оценку ковариационной матрицы этой оценки.
Чтобы применить общую схему, необходимо начать с построения статистики $$\beta$$ такой, чтобы при всех $$p_i$$ имело место равенство$$M(|X_{ip}-X_{iq}|-\beta)-0,\;1\le p<q\le s.$$
Элементарный расчет дает:$$M|X_{ip}-X_{iq}|=2p_i(1-p_i).$$
Как известно [, с.56-57], несмещенная оценка многочлена$$f(p)=\sum_{h=0}^m a_h p^h$$
по результатам $$m$$ независимых
Ясно, что многочлены степени $$m + 1$$ и более высокой невозможно несмещенно оценить по результатам $$m$$ испытаний.
В случае $$f(p) = 2p(1 - p)$$ в соответствии с (12) получаем несмещенную оценку$$\beta=\frac{2}{m-1}\left(\gamma-\frac{\gamma^2}{m}\right).$$
Таким образом, можно применять общий метод проверки гипотез о люсианах в асимптотике растущей размерности с$$\xi_i=\mu_i(\{|X_{ip}-X_{iq}|,\;1\le p<q\le s\}=\beta_i e),$$ где коэффициенты $$\beta_i$$ определяются с помощью формулы (13) по $$\gamma_i$$ - общему числу единиц, стоящих на $$i$$ -м месте в люсианах $$A_1, A_2, ..., A_s$$, а $$e$$ - вектор размерности $$s(s - 1)/2$$ с единичными координатами. Тогда несмещенная оценка 0, о которой идет речь в методе проверки гипотез по совокупности малых выборок, имеет вид$$\xi=\{d(A-p,A_q),1\le p<q\le s\}=\sum_{i=1}^k\mu_i\beta_i e.$$
Для использования статистики типа $$\eta$$, распределение которой приближается с помощью нормального распределения$$N\left(0;\frac{1}{k}\sum_{i=1}^k S_i\right),$$ необходимо уметь несмещенно оценивать ковариационные матрицы $$Cov(\xi_i)$$. Для этого достаточно найти математические ожидания элементов матрицы $$M(\xi_i^T,\xi_i)$$ как функции (многочлены) от $$p_i$$, а затем использовать формулу (12) для получения несмещенных оценок.
Вычисление матрицы $$M(\xi_i^T,\xi_i)$$ хотя и трудоемко, но не содержит каких-либо принципиальных трудностей. В [] вычислены диагональные элементы рассматриваемой матрицы. Вычисление занимает около 2,5 страниц (с.299-301), Поэтому здесь приведен только окончательный итог.
Обозначим для краткости $$p_i = p$$. В [] показано, что$$D=D(|X_{ip}-X_{iq}|-\beta_i)=\left(2-\frac{4}{s}\right)p(1-p)-4\frac{(s-2)(s-3)}{s(s-1)}p^2(1-p)^2.$$
Если двухэлементные множества $$\{p, q\}$$ и $$\{r, t\}$$ не имеют ни одного общего элемента, то$$C_1=M(|X_{ip}-X_{iq}|-\beta_i)(|X_{ir}-X_{it}|-\beta_i)=-\frac{4}{s}p(1-p)+ \frac{8(2s-3)}{s(s-1)}p^2(1-p)^2,$$ а если имеют ровно один общий элемент, то$$C_2=M(|X_{ip}-X_{iq}|-\beta_i)(|X_{ir}-X_{it}|-\beta_i)= \left(1-\frac{4}{s}\right)p(1-p)- 4\frac{(s-2)(s-3)}{s(s-1)}p^2(1-p)^2.$$
С помощью формулы (12) получаем несмещенные оценки для $$D, C_1$$ и $$C_2$$ как многочленов от $$p$$:$$\begin{gathered} D^*=\frac{2\gamma_i(s-\gamma_i)}{s^2(s-1)^2}\{(s-2)(s-1)-2(\gamma_i-1)(s-\gamma_i-1)\}, \\ C_1^*=\frac{4\gamma_i(s-\gamma_i)}{s^2(s-1)} \left\{\frac{2(2s-3)(\gamma_i-1)(s-\gamma_i-1)}{(s-1)(s-2)(s-3)}-1\right\},\\ C_2^*=\frac{\gamma_i(s-\gamma_i)}{s^2(s-1)}\{(s-4)(s-1)-4(\gamma_i-1)(s-\gamma_i-1)\}. \end{gathered}$$
С помощью трех чисел $$D^*, C_1^*, C_2^*$$ выписывается несмещенная оценка матрицы ковариаций вектора $$\xi_i/\mu_i$$, которую обозначим $$B_i$$. Тогда асимптотически нормальный вектор $$\xi$$ имеет нулевое математическое ожидание и ковариационную матрицу, несмещенно и состоятельно (в смысле соотношений (7)) оцениваемую с помощью$$Cov(\xi)^*=\sum_{i=1}^k\mu_i^2 B_i.$$
Асимптотическая нормальность доказывается, естественно, в схеме серий. Достаточным условием является существование положительной константы $$\varepsilon$$ такой, что$$\mu_i\ge\varepsilon,\frac{1}{\mu_i}\ge\varepsilon,p_i\ge\varepsilon,1-p_i\ge\varepsilon$$ при всех $$k$$ и $$i, 1\le i\le k$$.
Поскольку $$D, C_1$$ и $$C_2$$ являются многочленами четвертой степени от $$p$$, то несмещенные оценки для них существуют при $$s\ge 4$$. Если же $$s< 4$$, то несмещенных оценок не существует. Поэтому указанным методом проверять согласованность можно лишь при числе люсианов $$s\ge 4$$.
Проверка согласованности люсианов. Пусть $$\alpha$$ - нормально распределенный случайный вектор размерности $$s(s - 1)/2$$ с нулевым математическим ожиданием и ковариационной матрицей, определенной формулой (14). Согласно результатам лекции 4 для любой действительнозначной функции $$f$$, интегрируемой по Риману по любому
В частности, можно использовать линейные статистики, представляющие собой скалярное произведение случайного вектора $$\xi$$ и некоторого заданного детерминированного вектора коэффициентов $$a$$, т.е.$$(\xi,a)=\sum_{i=1}^k\left(\mu_i\sum_{1\le j<t\le s}a_{jt}(|X_{ij}-X_{it}|-\beta_i)\right).$$
Линейные статистики имеют нулевое математическое ожидание и дисперсию, очевидным образом выражающуюся через матрицу коэффициентов $$||a_{ij}||$$ и числа $$D, C_1$$ и $$C_2$$, а потому несмещенно и состоятельно оцениваемую с помощью с помощью выписанных выше оценок для $$D, C_1$$ и $$C_2$$.
Отметим, что $$(\xi, а) = 0$$ при $$a_{ij} \equiv 1, 1 \le j < t \le s$$. Это следует как из непосредственного вычисления дисперсии $$(\xi, а)$$, так и из того, что $$(\xi, а)$$ в рассматриваемом случае выражается через достаточную статистику $$(\gamma_1, \gamma_2, ..., \gamma_k)$$ и является несмещенной оценкой ноля, а семейство
Распределение статистики (16) при альтернативах изучено в работе [].
Рассмотрим два частных случая.
Первый частный случай. Проверка согласованности двух определенных люсианов (ответов двух экспертов), $$j$$ -го и $$t$$ -го, может осуществляться с помощью статистики (16), в которой отличен от 0 только член с $$a_{jt} = 1$$. Оценкой дисперсии является $$D^*$$.
Второй частный случай. Пусть необходимо проверить согласованность люсианов с одним из них, скажем, с $$j$$ -м (например, люсианы отражают мнения экспертов, а $$j$$ -й из них является наиболее компетентным - по априорной оценке, или "лицом, принимающим решения", или его мнение сильно отличается от мнений остальных). Это можно сделать с помощью статистики (16), в которой$$\begin{gathered} a_{jt} = 1, t = j + 1, j + 2, ..., s; a_{tj} = 1, t = 1, 2, ..., j - 1; \\ a_{qt} =0, q \ne j, t \ne j, 1 \le q < t \le s. \end{gathered}$$
Другими словами, она имеет вид$$W=\sum_{t=1}^s d(A_j, A_t)-(s-1)\sum_{i=1}^k\mu_i\beta_i,$$ где расстояние $$d$$ между люсианами определено в (10), а $$\beta_i$$ - в (13) с заменой $$m$$ на $$s$$ и $$\gamma$$ на $$\gamma_i$$. Используя полученные ранее несмещенные оценки элементов ковариационной матрицы, нетрудно показать, что несмещенная и состоятельная (в смысле формулы (7) выше) оценка дисперсии $$W$$ имеет вид$$D^*(W)=\sum_{i=1}^k\mu_i^2\frac{\gamma_i(s-\gamma_i)}{s^2} \{(s-2)^2-4(\gamma_i-1)(s-\gamma_i-1)\}.$$
Тогда при выполнении некоторых внутриматематических условий регулярности, например, условий (15), распределение статистики$$\frac{1}{\sqrt{D^*(W)}}W$$ сходится при $$k\rightarrow\infty, s = \text{const}$$ к стандартному нормальному распределению с математическим ожиданием 0 и дисперсией 1 (при справедливости гипотезы (1) согласованности люсианов).
Статистика (17) наряду со статистикой, предназначенной для проверки гипотезы однородности люсианов, включена в "Методические рекомендации" АМН СССР и УМС Минздрава СССР []. Последнюю статистику не расписываем здесь, поскольку для этого не требуются новые идеи.
Различные подходы к понятию согласованности. Обсудим условия, при выполнении которых люсианы естественно считать согласованными (а экспертов, чьи мнения отражают люсианы, имеющими единое мнение, искаженное случайными ошибками), т.е. обсудим различные методы проверки гипотезы (1).
, с.36-39], выход дается
Полное согласие в целом означает, что для любого эксперта мнения всех остальных оказываются с ним согласованными при использовании статистики (17) (второй частный случай). Отсутствие подобного согласия для одного или нескольких экспертов не означает отклонения гипотезы согласованности люсианов (1) - по тем же причинам, что и в предыдущем случае.
Минимальное согласие имеют мнения экспертов, когда хотя бы для одного из них гипотеза согласованности не отвергается с помощью статистики (17). В этом случае групповое мнение целесообразно строить, выделяя "ядро", о чем подробнее сказано ниже.
Расстояние $$d$$ между люсианами (см. формулу (10)) введено аксиоматически в 1.6 (напомним, что реализацию люсиана можно рассматривать как подмножество конечного множества). Там же из иной системы аксиом выведено другое расстояние - $$D$$ -метрика. Рассмотрим проверку согласованности люсианов с использованием $$D$$ -метрики. В этом случае расстояние между люсианами $$A_1$$ и $$A_2$$ имеет вид$$D(A_1,A_2)=\left\{ \begin{gathered} \frac{d(A_1,A_2)}{t(A_1,A_2)}, T(A_1,A_2)\ne 0, \\ 0,\quad T(A_1,A_2)= 0, \end{gathered} \right.$$ где$$T(A_1,A_2)=\sum_{i=1}^k\mu_i\max(X_{i1},X_{i2}).$$
Ясно, что теория, основанная на $$D$$ -метрике, существенно сложнее теории, основанной на метрике $$d$$. Ясно, что описанный выше метод проверки гипотез о люсианах в асимптотике растущей размерности применить не удается. Чтобы продемонстрировать существенное усложнение ситуации, опишем лишь асимптотическое поведение расстояния $$D(A_1, A_2)$$ между двумя люсианами.
]. Пусть $$p_{1i}$$ и $$p_{2i}$$ отделены от 0 и 1, а $$\mu_i$$ отделены от 0 и $$+\infty$$. Тогда расстояние $$D(A_1, A_2)$$ между люсианами $$A_1$$ и $$A_2$$ асимптотически нормально при $$k\rightarrow\infty$$ с параметрами$$t_k=\frac{N_1}{N_2},\;q_k=\frac{N_1}{N_2}\sqrt{\frac{N_3}{N_1^2}+\frac{N_4}{N_2^2}-2\frac{N_5}{N_1N_2}},$$ т.е. для любого числа $$x$$ справедливо предельное соотношение$$\lim_{k\rightarrow\infty}P \left\{ \frac{D(A_1,A_2)-t_k}{q_k}\le x \right\} =\Phi(x),$$ где \Phi(х) - функция стандартного нормального распределения с математическим ожиданием 0 и дисперсией 1.
Величины $$N_j, j = 1, 2, 2, 4, 5$$, выражаются через $$\mu_i$$ и величины$$p_{3i} = p_{1i} + p_{2i} - 2p_{1i} p_{2i}, p_{4i} = p_{1i} + p_{2i} - p_{1i} p_{2i}$$ следующим образом:$$\begin{gathered} N_1=\sum_{i=1}^k\mu_i p_{3i}, \;N_2=\sum_{i=1}^k\mu_ip_{4i},\;N_3=\sum_{i=1}^k\mu_i^2p_{3i}(1-p_{3i}), \\ N_4=\sum_{i=1}^k\mu_i^2 p_{4i}(1-p_{4i}), N_5=\sum_{i=1}^k\mu_i^2 p_{3i}(2-p_{4i}). \end{gathered}$$
Следствие 1. Пусть $$p_{1i} = p_1$$ и $$p_{2i} = p_2$$ при всех $$i, k$$, причем $$p_1$$ и $$p_2$$ лежат внутри отрезка (0; 1). Пусть $$\mu_i$$ отделены от 0 и $$+\infty$$. Тогда расстояние $$D(A_1, A_2)$$ между люсианами $$A_1$$ и $$A_2$$ асимптотически нормально при $$k\rightarrow\infty$$ с параметрами$$t_k=\frac{p_3}{p_4},\;q_k^2=\frac{p_1p_2p_3}{p_4^3} \frac{\sum\limits_{i=1}^k \mu_i^2}{\left(\sum\limits_{i=1}^k\mu_i\right)^2},$$ где$$p_3 = p_1 + p_2 - 2p_1p_2, p_4 = p_1 + p_2 - p_1p_2.$$
Следствие 2. Пусть в предположениях следствия 1 $$p_1 = p_2 = p$$ и $$\mu_i = 1$$ при всех $$i, k$$. Тогда$$t_k=\frac{2(1-p)}{2-p},\;q_k=\frac{2(1-p)}{k(2-p)^3}.$$
Замечание. Пусть в следствии 2 $$p = 1/2$$. Тогда $$A_1$$ и $$A_2$$ - люсианы, равномерно распределенные на множестве всех последовательностей из 0 и 1 длины $$k$$. В частности, эти люсианы могут соответствовать независимым случайным множествам, равномерно распределенным на совокупности всех подмножеств конечного множества из $$k$$ элементов, или независимым толерантностям, равномерно распределенным на множестве всех толерантностей, определенных на множества из $$m$$ элементов, где $$m(m - 1)/2 = k$$. По следствию 2 расстояние между люсианами $$D(A_1, A_2)$$ асимптотически нормально с математическим ожиданием 0,667 и дисперсией 0,296 $$k^{-1}$$. Напомним, что распределения коэффициентов ранговой корреляции Кендалла и Спирмена изучены (в основном) лишь при условии равномерности распределения случайных ранжировок на множестве всех возможных ранжировок фиксированного числа объектов. Для теории люсианов случай равномерности распределения - весьма частный, а для теории ранжировок - основной. Как уже говорилось, отказ от равномерности - привлекательная черта теории люсианов.
Классификация люсианов. Отсутствие согласованности в одном из перечисленных выше смыслов позволяет сделать заключение о целесообразности разбиения всех люсианов (например, если они выражают мнения экспертов) на группы близких между собой, т.е. о целесообразности классификации люсианов, точнее, их кластер-анализа. Поскольку введена мера близости между люсианами $$d(A_1, A_2)$$ или $$D(A_1, A_2)$$, то напрашивается следующий способ действий: провести разбиение на кластеры с помощью одного из алгоритмов, основанных на использовании меры близости, а затем проверить мнения в каждом классе на согласованность. Однако применение того или иного алгоритма кластер-анализа, вообще говоря, может нарушить предпосылки описанных выше способов проверки согласованности (ср. обсуждение похожей проблемы, связанной с применением регрессионного анализа после кластер-анализа, в 7.5). Поэтому опишем методы классификации, опирающиеся на результаты проверки согласованности.
Разбиение на кластеры, внутри каждого из которых имеет место "полное индивидуальное согласие", может быть проведено с помощью агломеративного иерархического алгоритма "дальнего соседа", дополненного ограничением сверху на диаметр кластера. Это ограничение строится из статистических соображений, в отличие от методов, описанных в лекции 9. При этом в качестве меры близости между люсианами используют не расстояния $$d$$ или $$D$$, а модуль статистики, применяемой для проверки согласованности двух люсианов, т.е. статистики (16), в которой только одно из чисел $$a_{ij}$$ отлично от 0. Упомянутое ограничение таково: диаметр кластера не должен превосходить процентной точки предельного распределения, соответствующей используемому при анализе рассматриваемых данных уровню значимости (можно порекомендовать 5%-й уровень значимости). В результате работы алгоритма получим кластеры, в которых имеется "полное индивидуальное согласие", причем объединение любых двух кластеров приведет к исчезновению этого свойства у объединения. Поскольку способ выделения итогового разбиения из иерархического дерева разбиений имеет вероятностно-статистическое обоснование, изложенное выше, то описанный метод классификации люсианов следует считать - в терминологии [] - не методом анализа данных (т.е. эвристическим), а вероятностно-статистическим (т.е. научно обоснованным) методом.
Кластеры "с полным согласием в целом" могут быть получены с помощью агломеративного иерархического алгоритма, в котором мерой близости двух кластеров является максимальное значение модуля статистики (17), когда $$j$$ пробегает номера мнений (люсианов), вошедших в объединение рассматриваемых кластеров, а суммирование в (17) проводится по всем люсианам в этом объединении. Ограничение сверху на меру близости кластеров определяется процентной точкой предельного распределения статистики $$W$$, заданной формулой (17).
Кластеры "с минимальным согласием" можно получить, при фиксированном $$j$$ выделяя совокупность люсианов, согласованных с $$A_j$$ в смысле статистики $$W$$ з (17).
На основе двух рассмотренных выше частных случаев линейной статистики (16) можно строить и другие способы классификации. Например, для каждого люсиана $$A_m$$ можно выделить кластер "типа шара" (см. лекцию 9) из люсианов, попарно согласованных с $$A_m$$. Все такие способы имеют вероятностно-статистическое обоснование, и потому к ним относится сказанное выше относительно выделения кластеров "с полным индивидуальным согласием".
, ].
Нахождение среднего. В результате классификации получаем согласованные (в одном из указанных выше смыслов) группы люсианов. Для каждой из них полезно рассмотреть среднее. В зависимости от конкретных приложений в прикладных исследованиях применяют либо среднее в виде последовательностей 0 и 1, т.е. в виде реализации люсиана, либо среднее в виде последовательности оценок вероятностей $$(p_1, p_2, ..., p_k)$$. Кроме того, оно может находиться либо с помощью методов, подавляющих "засорения" ("выбросы"), либо без учета возможности засорения. Рассмотрим все четыре возможности.
В соответствии с подходом в 5.5 при отсутствии засорения эмпирическое среднее ищется как решение задачи$$\sum_{j=1}^m (A_j,A)\rightarrow\min_{A\in X},$$ где $$A_1, A_2, ..., A_m$$ - люсианы, входящие в рассматриваемый кластер, $$X$$ - множество, которому принадлежит среднее.
Если $$X$$ - совокупность последовательностей из 0 и 1, то правило (18) дает решение по правилу большинства (подробнее см. 5.5).
Если $$X$$ - пространство последовательностей вероятностей, то решением задачи (18) является та же последовательность 0 и 1, что и в первом случае. Поэтому в качестве среднего вместо решения задачи (18) целесообразно рассматривать просто последовательность частот.
Асимптотическое поведение средних при $$m\rightarrow\infty$$ вытекает из законов больших чисел (5.5), теорем, описывающих асимптотику решений экстремальных статистических задач (см. 6.3), и теоремы Муавра-Лапласа соответственно.
В работе [] при анализе результатов эксперимента показано, что ответы реальных экспертов разбиваются на многочисленное "ядро", расположенное вокруг истинного мнения, и отдельных "диссидентов", разбросанных по периферии. Причем оценка истинного мнения по "ядру" является более точной, чем по всей совокупности, поскольку мнения "диссидентов" не отражают истинного мнения. Поэтому для построения группового мнения, в том числе среднего для совокупности люсианов, отражающих мнения экспертов, естественно применять методы, подавляющие мнения "диссидентов", что соответствует методологии робастности.
"Ядро" может быть построено следующим образом. Решается задача (18) с конечным множеством $$X$$, состоящим из всех исходных люсианов: $$X = \{A_1, A_2, ..., A_m\}$$, т.е. из результатов наблюдений выбирается тот, что находится "в центре" совокупности результатов наблюдений. Пусть $$A_j$$ является решением этой задачи. В качестве ядра предлагается рассматривать совокупность всех люсианов, которые попарно согласованы с $$A_j$$. Другой вариант: рассматривается кластер с "полным внутренним согласием", куда входит $$A_j$$. (При этом, очевидно, должно быть изменено (уменьшено) критическое значение критерия по сравнению с процедурой, приведшей к выделению группы, нахождением группового мнения которой мы занимаемся.) Затем групповое мнение ищется лишь для элементов "ядра". Описанная процедура особенно необходима в случае, когда не было предварительного разбиения совокупности люсианов на группы согласованных друг с другом. Новым по сравнению с [] является придание вероятностного смысла порогу, выделяющему "ядро".
Обобщая идею выделения "ядра", приходим к "взвешенным
Таким образом, в настоящем параграфе представлен ряд методов обработки специального вида объектов нечисловой природы - люсианов. При этом для решения одной и той же задачи, например, задачи классификации, предлагается ряд методов, точно так же, как для решения классической задачи проверки однородности двух независимых выборок имеется большое число методов (см. лекцию 8).
Пример практического применения метода парных сравнений. Деятельность предприятия по реализации услуг всегда сопряжена с рядом проблем, от качества решения которых зависит его будущее. Руководителю службы маркетинга необходимо знать факторы, сдерживающие продажи, и оценить степень важности каждого из них. При кажущейся очевидности и простоте решения далеко не вся управленческая команда дает однозначный ответ: какая из проблем на текущий момент является наиболее важной. Необходим экспертный опрос на эту тему.
Целью исследования факторов, влияющих на объемы продаж, является их ранжирование по степени важности. Для этого среди 25 сотрудников отдела сбыта, а также 10 руководителей завода ГАРО (Великий Новгород) А.А. Пивнем был проведен опрос, в котором предлагалось сравнить попарно факторы, определив более важный среди двух. Итог определялся как среднее арифметическое сумм баллов, набранных каждым фактором у всех опрашиваемых.
Были проанализированы следующие 15 факторов:
В результате анализа результатов парных сравнений построена структурная схема, показывающая степень влияния факторов на объемы продаж (рис 11.1).
Наибольшую значимость на сегодняшний день имеет срок поставки продукции и квалификация персонала. Меняются подходы к продвижению товаров на рынке. Ранее успешно применяемые способы продаж (почтовая рассылка рекламы, участие в специализированных выставках, публикации в газетах и специализированных изданиях, конференции и т.д.) сегодня требуют иного качественного подхода. Срок поставки продукции, как правило, связан с производственно-технологическим циклом изготовления и настройки изделий. Мотивация труда, равно как и уровень гарантийного и сервисного обслуживания, имеют также большое значение. Разрабатывается и утверждается новая система оплаты труда, которая позволяет устранить возникающие противоречия. Отдел сервисного обслуживания гаражного оборудования должен разработать концепцию развития сервисной сети с целью наиболее полного удовлетворения потребителя, а значит и завоевания преимуществ в конкурентной борьбе.
(рис 11.1) Распределение факторов по их значимостиСреди проблем более низкого уровня значимости необходимо отметить место корпоративной культуры. Понимание и осознание себя, как части сплоченного коллектива - сложный процесс. Достижение синергетического эффекта возможно только в коллективе, в котором отдельный сотрудник понимает и делает свою работу через понимание целей и задач всей компании. Формированию корпоративной культуры следует уделить особое внимание.
Проведенный анализ дает возможность компании сосредоточить свои усилия на наиболее важных на данный момент обозначенных проблемах. Выбор пути решения каждой из них определяется возможностями компании и опытом руководителей.
Вероятностное моделирование парных сравнений. Напомним общую модель парных сравнений, введенную в 5.4.
Пусть $$t$$ объектов $$A_1,A_2,...,A_t$$ сравниваются попарно каждым из $$n$$ экспертов. Следовательно, возможных пар для сравнения имеется $$s=t(t-1)/2$$. Эксперт с номером $$\gamma$$ делает $$r_{\gamma}$$ повторных сравнений для каждой из $$s $$ возможностей. Пусть $$X(i,j,\gamma,\delta),\; i,j=1, 2, ..., t, i\ne j,\gamma=1,2,...,n; \delta=1,2,..., r_{\gamma}$$, - случайная величина, принимающая значения 1 или 0 в зависимости от того, предпочитает ли эксперт $$\gamma$$ объект $$A_i$$ или объект $$A_j$$ в $$\delta$$ -м сравнении двух объектов. Обычно принимают, что все сравнения проводятся независимо друг от друга, так что случайные величины $$X(i,j,\gamma,\delta)$$ независимы в совокупности, если не считать того, что $$X(i,j, \gamma, \delta)+X(i,j, \gamma, \delta)=1$$. Положим$$P(X(i,j,\gamma,\delta)=1)=\pi(i,j,\gamma,\delta).$$
Ясно, что описанная модель парных сравнений представляет собой частный случай люсиана (в другой терминологии - бернуллиевского вектора). В этой модели число наблюдений равно числу неизвестных параметров, поэтому для получения статистических выводов необходимо наложить те или иные априорные условия на $$\pi(i,j,\gamma,\delta)$$, например:
$$\pi(i,j,\gamma,\delta)=\pi(i,j,\gamma)$$ (нет эффекта от повторений);
$$\pi(i,j,\gamma,\delta)=\pi(i,j)$$ (нет эффекта от повторений и от экспертов).
Теорию независимых парных сравнений целесообразно разделить на две части - непараметрическую, в которой статистические задачи ставятся непосредственно в терминах $$\pi(i,j,\gamma,\delta)$$, и параметрическую, в которой вероятности $$\pi(i,j,\gamma,\delta)$$ выражаются через меньшее число иных параметров. Ряд результатов непараметрической теории парных сравнений непосредственно вытекает из теории люсианов.
В параметрической теории парных сравнений наиболее популярна
Широко применяются модели Терстоуна-Мостеллера и Брэдли-Терри, в которых $$H(x)$$ - соответственно функции нормального и логистического распределений. С прикладной точки зрения эти две модели практически совпадают. Действительно, поскольку функция $$\Phi(x)$$ стандартного нормального распределения с математическим ожиданием 0 и дисперсией 1 и функция$$\Psi(x)=e^x(1+e^x)^{-1}$$ стандартного логистического распределения удовлетворяют соотношению (см. 5.4)$$\sup_{x\in R^1}|\Phi(x)-\Psi(1,7x)|<0,01,$$ то для обоснованного выбора по статистическим данным между моделями Терстоуна-Мостеллера и Брэдли-Терри необходимо не менее тысячи наблюдений. Ясно, что при реальном проведении экспертного опроса число наблюдений по крайней мере на порядок меньше.
Соотношение (1) вытекает из следующей модели поведения эксперта: он измеряет "ценность" $$V_i$$ и $$V_j$$ объектов $$A_i$$ и $$A_j$$, но с ошибками $$\varepsilon_i$$ и $$\varepsilon_j$$ соответственно, а затем сравнивает свои оценки ценности объектов $$y_i=V_i+\varepsilon_i$$ и $$y_j=V_j+\varepsilon_j$$. Если $$y_i>y_j$$ то он предпочитает $$A_i$$, в противном случае - $$A_j$$. Тогда$$\pi(i,j)=P(\varepsilon_i-\varepsilon_j<V_i-V_j)=H(V_i-V_j).$$
Обычно предполагают, что субъективные ошибки эксперта и независимы и имеют одно и то же непрерывное распределение. Тогда функция распределения $$H(x)$$ из соотношения (3) непрерывна и удовлетворяет функциональному уравнению (2).
Пример. При опросе экспертов (август 2001 г.) попарно сравнивались четыре компании ТНК, Лукойл, Юкос, Татнефть, продающие автомобильное топливо. Сравнение проводилось по качеству бензина. При $$t = 4$$ пар для сравнения имеется $$s=t(t-1)/2 = 6$$.
Результаты парных сравнений приведены в табл.1. По ним необходимо определить взаимное положение четырех компаний на оси "качество бензина", т.е. найти их "ценности" $$V_1, V_2, V_3, V_4$$.
| Пары | Частота выбора первого элемента пары | Частота выбора второго элемента пары |
|---|---|---|
| ТНК - Лукойл | $$\pi(1,2) = 0,508$$ | $$\pi(2,1) = 0,492$$ |
| ТНК - Юкос | $$\pi(1,3) = 0,331$$ | $$\pi(3,1) = 0,669$$ |
| ТНК - Татнефть | $$\pi(1,4) = 0,990$$ | $$\pi(4,1) = 0,010$$ |
| Лукойл - Юкос | $$\pi(2,3) = 0,338$$ | $$\pi(3,2) = 0,662$$ |
| Лукойл - Татнефть | $$\pi(2,4) = 0,990$$ | $$\pi(4,2) = 0,010$$ |
| Юкос - Татнефть | $$\pi(3,4) = 0,997$$ | $$\pi(4,3) = 0,003$$ |
Применим модель Терстоуна-Мостеллера, согласно которой погрешности мнений экспертов $$\varepsilon_i$$ являются независимыми нормально распределенными случайными величинами с нулевым математическим ожиданием и дисперсией $$\sigma^2$$.
Легко видеть, что "ценности" $$V_1, V_2, V_3, V_4$$ измерены в шкале интервалов. Начало координат можно выбрать произвольно, поскольку вероятности результатов сравнения зависят только от попарных разностей "ценностей" $$V_1, V_2, V_3, V_4$$. Например, можно положить $$V_4=0$$. Единицу измерения также можно выбрать произвольно. При изменении единицы измерения меняется $$\sigma^2$$, точнее, единица измерения однозначно связана с величиной $$\sigma$$. Дисперсия разности $$\varepsilon_i$$ - $$\varepsilon_j$$ равна $$2\sigma^2$$. В соответствии с формулой (3) удобно выбрать единицу измерения так, чтобы $$2\sigma^2 = 1$$, т.е. $$\sigma=1/\sqrt{2}$$. Тогда $$Н$$ в формуле (3) - это функция $$\Phi$$ стандартного нормального распределения с математическим ожиданием 0 и дисперсией 1.
В соответствии с (3) имеем систему шести уравнений с тремя неизвестными:$$\begin{aligned} \Phi (V_1 - V_2) = \pi (1, 2) = 0,508,\\ \Phi (V_1 - V_3) = \pi (1, 3) = 0,331, \\ \Phi (V_1) = \pi (1, 4) = 0,990,\\ \Phi (V_2 - V_3) = \pi (2, 3) = 0,338,\\ \Phi (V_2) = \pi (2, 4) = 0,990,\\ \Phi (V_3) = \pi (3, 4) = 0,997. \end{aligned}$$
Применяя к каждому их этих уравнений преобразование $$\Phi^{-1}$$, получаем систему шести линейных уравнений с тремя неизвестными:$$\begin{aligned} V_1 - V_2 = a_1 = \Phi^{-1}(0,508) = 0,020054,\\ V_1 - V_3 = a_2 = \Phi^{-1}(0,331) = - 0,437154, \\ V_1 = a_3 = \Phi^{-1}(0,990) = 2,326348,\\ V_2 - V_3 = a_4 = \Phi^{-1}(0,338) = - 0,417928,\\ V_2 = a_5 = \Phi^{-1}(0,990) = 2,326348,\\ V_3 = a_6 = \Phi^{-1}(0,997) = 2,747781.\\ \end{aligned}$$
(Значения $$\Phi^{-1}$$ взяты из таблицы 1.3 сборника [].)
В полученной системе число уравнений больше числа неизвестных, т.е. система переопределена. Дальнейшие расчеты могут проводиться разными способами. Простейший из них состоит в том, чтобы выбрать три уравнения, а именно, третье, пятое и шестое, которые и дают искомые значения:$$V_1=V_2=2,326348,\; V_3=2,747781.$$
Таким образом, качество бензина лучше всего у Юкоса, оно несколько хуже у ТНК и Лукойла, одинаковых по этому показателю, а у Татнефти - значительно хуже тройки лидеров. Можно показать, что если модель Терстоуна-Мостеллера верна и число экспертов достаточно велико, то отбрасывание "лишних" уравнений является корректным способом обработки экспертных данных, поскольку дает состоятельные оценки "ценностей" $$V_1, V_2, ..., V_n$$.
Однако ясно, что при отбрасывании трех уравнений из шести часть информации теряется. Например, первое уравнение показывает, что по мнению экспертов качество бензина у ТНК несколько лучше, чем у Лукойла. Поэтому целесообразно применить метод наименьших квадратов для оценивания $$V_1, V_2, V_3, V_4$$. А именно, рассмотрим функцию трех переменных$$\begin{gathered} f(V_1, V_2, V_3) = (V_1 - V_2 - a_1)^2 + (V_1 - V_3 - a_2)^2 + (V_1 - a_3)^2 + +(V_2 - V_3 - a_4)^2 +(V_2 - a_5)^2 +(V_3 - a_6)^2 . \end{gathered}$$
Оценки по методу наименьших квадратов - это результат минимизации функции $$f(V_1, V_2, V_3)$$ по совокупности переменных $$V_1, V_2, V_3$$. Как и в лекции 9, для минимизации этой функции достаточно приравнять 0 частные производные этой функции по $$V_1, V_2, V_3$$. Имеем:$$\begin{gathered} \frac{\partial f}{\partial V_1}=2(V_1-V_2-a_1)+2(V_1-V_3-a_2)+2(V_1-a_3),\\ \frac{\partial f}{\partial V_2}=-2(V_1-V_2-a_1)+2(V_2-V_3-a_4)+2(V_2-a_5),\\ \frac{\partial f}{\partial V_3}=-2(V_1-V_3-a_2)-2(V_2-V_3-a_4)+2(V_3-a_6). \end{gathered}$$
Приравнивая частные производные 0, деля на 2, раскрывая скобки и перенося
Решение этой системы не представляет трудностей.
Вообще говоря, не всегда сравниваемые объекты можно представить точками на прямой, т.е. не всегда их можно линейно упорядочить. Возможно, более соответствует данным опроса экспертов представление объектов точками на плоскости или в пространстве большей размерности. В статистике парных сравнений [] разработаны методы проверки
Нечеткие множества - частный вид объектов нечисловой природы. Поэтому при обработке выборки, элементами которой являются нечеткие множества, могут быть использованы различные методы анализа статистических данных произвольной природы - расчет средних, непараметрических оценок плотности, построение диагностических правил и т.д.
Среднее значение нечеткого множества. Однако иногда используются методы, учитывающие специфику нечетких множеств. Например, пусть носителем нечеткого множества является конечная совокупность действительных чисел $$\{x_1, x_2, ..., x_n}$$. Тогда под средним значением нечеткого множества иногда понимают число. А именно, среднее значение нечеткого множества определяют по формуле:$$M(A)=\frac{\sum\limits_{i=1}^nx_i\mu_A(x_i)}{\sum\limits_{i=1}^n\mu_A(x_i)},$$
где $$\mu_A(x_i)$$ -
Очевидно, наряду с $$M(A)$$ может оказаться полезным использование эмпирических средних, определяемых (согласно статистике в пространствах общей природы) путем решения соответствующих оптимизационных задач. Для конкретных расчетов необходимо ввести то или иное расстояние между нечеткими множествами.
Расстояния в пространствах нечетких множеств. Как известно, многие методы статистики нечисловых данных базируются на использовании расстояний (или показателей различия) в соответствующих пространствах нечисловой природы. Расстояние между нечеткими подмножествами $$A$$ и $$B$$ множества $$X = \{x_1, x_2, ..., x_k}$$ можно определить как$$d(A,B)=\sum_{j=1}^k|\mu_A(x_j)-\mu_B(x_j)|,$$
где $$\mu_A(x_j)$$ -
(Примем это расстояние равным 0, если функции принадлежности тождественно равны 0.)
В соответствии с аксиоматическим подходом к выбору расстояний (метрик) в пространствах нечисловой природы разработан обширный набор систем аксиом, из которых выводится тот или иной вид расстояний (метрик) в конкретных пространствах, в том числе в пространствах нечетких множеств (см. ].
Проверка гипотез о нечетких множествах. Пусть ответ эксперта - нечеткое множество. Естественно считать, что его ответ, как показание любого средства измерения, содержит погрешности. Если есть несколько экспертов, то в качестве единой оценки (группового мнения) естественно взять эмпирическое среднее их ответов. Но возникает естественный вопрос: действительно ли все эксперты измеряют одно и то же? Может быть, глядя на реальный объект, они оценивают его с разных сторон? Например, на научную статью можно смотреть как с теоретической точки зрения, так и с прикладной, и соответствующие оценки будут скорее всего различны (если они совпадают, то работа либо никуда не годится, либо является выдающейся).
Итак, возник вопрос: как проверить согласованность мнений экспертов? Надо сначала определить понятие согласованности. Пусть $$A$$ - нечеткий ответ эксперта. Будем считать, что соответствующая
Мнения экспертов $$A(1), A(2), ..., A(m)$$ будем считать согласованными, если$$N(A(1)) = N(A(2)) = ..., N(A(m)).$$
Рассмотрим две группы экспертов. В первой у всех "истинное" мнение $$N(A)$$, а во второй у всех - $$N(B)$$. Две группы будем считать согласованными по мнениям, если$$N(A)=N(B).$$
Согласованность определена. Как же ее проверить? Если экспертов достаточно много, то эти гипотезы можно проверять отдельно для каждого элемента множества - общего носителя нечетких ответов. Проверка последней гипотезы переходит в проверку однородности двух независимых выборок (лекция 8). Здесь ограничимся постановками основных гипотез (ср. с аналогичными гипотезами, рассмотренными выше для люсианов).
Восстановление зависимости между нечеткими переменными. Рассмотрим две
Для иллюстрации основной идеи ограничимся парной линейной регрессией нечетких множеств. Нечеткое множество $$C$$ назовем линейной функцией от нечеткого множества $$A$$, если для любого $$x$$ из носителя $$A$$ функции принадлежности множеств $$A$$ и $$C$$ таковы, что $$\mu_C(x) = \mu A(y)$$ при $$x = \alpha y + \beta$$. Другими словами,$$\mu_C(x)=\mu_A((x-\beta)/\alpha)$$ для любого $$x$$ из носителя $$A$$. В таком случае естественно писать$$C=\alpha A + \beta.$$
Однако
Для восстановления зависимости по выборочным парам
Тогда наилучшим линейным приближением $$B$$ является $$C^* = \alpha^*A + \beta^*$$.
Вероятностно-статистическая теория регрессионного анализа
Кластер-анализ нечетких переменных. Строить группы сходных между собой
Пусть на пространстве, в котором лежат результаты наблюдений, т.е. на пространстве нечетких множеств, заданы две меры близости $$\rho$$ и $$\tau$$ (например, это могут быть введенные выше расстояния $$d$$ и $$D$$ ). Берется один из результатов наблюдений (нечеткое множество) и вокруг него описывается шар радиуса $$R$$, определяемый мерой близости $$\rho$$. (Напомним, что шаром с центром в $$x$$ относительно $$\rho$$ называется множество всех элементов $$y$$ рассматриваемого пространства таких, что $$\rho(x, y) \le R$$.) Берутся результаты наблюдений (элементы выборки), попавшие в этот шар, и находится их эмпирическое среднее относительно второй меры близости $$\tau$$. Оно берется за новый центр, вокруг которого снова описывается шар радиуса $$R$$ относительно $$\rho$$, и процедура повторяется. (Чтобы алгоритм был полностью определен, необходимо сформулировать правило выбора элемента эмпирического среднего в качестве нового центра, если эмпирическое среднее состоит более чем из одного элемента.)
Когда центр шара зафиксируется (перестанет меняться), попавшие в этот шар элементы объявляются первым кластером и исключаются из дальнейшего рассмотрения. Алгоритм применяется к совокупности оставшихся результатов наблюдений, выделяет из нее второй кластер и т.д.
Всегда ли центр шара остановится? При реальных расчетах в течение многих лет так было всегда. Соответствующая теория была построена в 1977 г. [ $$19$$ ]. Было доказано, что описанный выше процесс всегда остановится через конечное число шагов. Причем число шагов до остановки оценивается через максимально возможное число результатов наблюдений в шаре радиуса $$R$$ относительно $$\rho$$.
Обширное семейство образуют алгоритмы кластер-анализа типа "
Для работы алгоритмов кластер-анализа типа "
Соображения теории измерений позволяют ограничить круг возможных алгоритмов типа "
При классификации нечетких множеств полезны многие подходы, рассмотренные в лекции 9, а именно, все подходы, основанные только на использовании расстояний.
Сбор и описание нечетких данных. Разработано большое количество процедур описания нечеткости. Так, согласно Э.Борелю понятие "куча" описывается с помощью функции распределения - при каждом конкретном $$x$$ значение функции принадлежности - это доля людей, считающих совокупность $$x$$ зерен кучей. Результат подобного опроса может дать и кривую иного вида, например, по поводу понятия "молодой" (слева будут отделены "дети", а справа - "люди зрелого и пожилого возраста"). Нечеткая толерантность может оцениваться с помощью случайных толерантностей (см. выше).
Целесообразно попытаться выделить наиболее практически полезные простые формы функций принадлежности. Видимо, наиболее простой является "ступенька" - внутри некоторого интервала
Тремя числами $$a < b < c$$ описывается
Следующий по сложности вид функции принадлежности - типа трапеции - описывается четырьмя числами $$a < b < c < d$$. Левее $$a$$ и правее $$d$$
Ряд результатов статистики нечетких данных приведен в первой монографии российского автора по нечетким множествам [] и во многих дальнейших публикациях.
Развитие статистики нечисловых данных во многом стимулировалось запросами теории и практики экспертных оценок. Рассмотрим взаимоотношение этих двух областей подробнее.
Современная теория измерений и экспертные оценки. Как проводить анализ собранных рабочей группой ответов экспертов? Для более углубленного рассмотрения проблем экспертных оценок понадобятся некоторые понятия репрезентативной теории измерений, служащей основой теории экспертных оценок, прежде всего той ее части, которая связана с анализом заключений экспертов, выраженных в качественном (а не в количественном) виде.
Как уже отмечалось, получаемые от экспертов мнения часто выражены в порядковой шкале. Поэтому экспертов часто просят дать ранжировку (упорядочение) объектов экспертизы.
Рассмотрим в качестве примера применения результатов теории измерений, связанных со средними величинами в порядковой шкале, следующий сюжет.
Методы средних баллов. В настоящее время распространены экспертные, маркетинговые, квалиметрические, социологические и иные опросы, в которых опрашиваемых просят выставить баллы объектам, изделиям, технологическим процессам, предприятиям, проектам, заявкам на выполнение научно-исследовательских работ, идеям, проблемам, программам, политикам и т.п. Затем рассчитывают средние баллы и рассматривают их как интегральные (т.е. обобщенные, итоговые) оценки, выставленные коллективом опрошенных экспертов. Какими формулами пользоваться для вычисления средних величин? Ведь существует очень много разных видов средних величин.
По традиции обычно применяют среднее арифметическое. Однако специалисты по теории измерений уже около 30 лет знают, что такой способ некорректен, поскольку баллы обычно измерены в порядковой шкале (см. 5.3). Обоснованным является использование медиан в качестве средних баллов. Однако полностью игнорировать средние арифметические нецелесообразно из-за их привычности и распространенности. Поэтому представляется рациональным использовать одновременно оба метода - и средних арифметических рангов (баллов), и медианных рангов. Такая рекомендация находится в согласии с общенаучной концепцией устойчивости (см. 4.7), исходя из которой следует применять различные методы для обработки одних и тех же данных с целью выделения выводов, получаемых одновременно при всех методах. Такие выводы, видимо, соответствуют реальной действительности, в то время как заключения, меняющиеся от метода к методу, зависят от субъективизма исследователя, выбирающего метод обработки исходных экспертных оценок.
Пример сравнения восьми проектов. Рассмотрим конкретный пример применения только что сформулированного подхода.
По заданию руководства фирмы анализировались восемь проектов, предлагаемых для включения в план стратегического развития фирмы. Они обозначены следующим образом: Д, Л, М-К, Б, Г-Б, Сол, Стеф, К (по фамилиям менеджеров, предложивших их для рассмотрения). Все проекты были направлены 12 экспертам, включенным в экспертную комиссию, организованную по решению Правления фирмы. В табл.11.2 приведены ранги восьми проектов, присвоенные им каждым из 12 экспертов в соответствии с представлением экспертов о целесообразности включения проекта в стратегический план фирмы. При этом эксперт присваивает ранг 1 самому лучшему проекту, который обязательно надо реализовать. Ранг 2 получает от эксперта второй по привлекательности проект, ... , наконец, ранг 8 - наиболее сомнительный проект, который реализовывать стоит лишь в последнюю очередь.
| № эксперта | Д | Л | М-К | Б | Г-Б | Сол | Стеф | К |
|---|---|---|---|---|---|---|---|---|
| 1 | 5 | 3 | 1 | 2 | 8 | 4 | 6 | 7 |
| 2 | 5 | 4 | 3 | 1 | 8 | 2 | 6 | 7 |
| 3 | 1 | 7 | 5 | 4 | 8 | 2 | 3 | 6 |
| 4 | 6 | 4 | 2,5 | 2,5 | 8 | 1 | 7 | 5 |
| 5 | 8 | 2 | 4 | 6 | 3 | 5 | 1 | 7 |
| 6 | 5 | 6 | 4 | 3 | 2 | 1 | 7 | 8 |
| 7 | 6 | 1 | 2 | 3 | 5 | 4 | 8 | 7 |
| 8 | 5 | 1 | 3 | 2 | 7 | 4 | 6 | 8 |
| 9 | 6 | 1 | 3 | 2 | 5 | 4 | 7 | 8 |
| 10 | 5 | 3 | 2 | 1 | 8 | 4 | 6 | 7 |
| 11 | 7 | 1 | 3 | 2 | 6 | 4 | 5 | 8 |
| 12 | 1 | 6 | 5 | 3 | 8 | 4 | 2 | 7 |
Примечание. Эксперт № 4 считает, что проекты М-К и Б равноценны, но уступают лишь одному проекту - проекту Сол. Поэтому проекты М-К и Б должны были бы стоять на втором и третьем местах и получить баллы 2 и 3. Поскольку они равноценны, то получают средний балл (2+3)/ 2 = 5/ 2 = 2,5.
Анализируя результаты работы экспертов (т.е. упомянутую таблицу), члены аналитической подразделения Рабочей группы, анализировавшие ответы экспертов по заданию Правления фирмы, были вынуждены констатировать, что полного согласия между экспертами нет, а потому данные, приведенные в таблице, следует подвергнуть тщательному математическому анализу.
Метод средних арифметических рангов. Сначала для получения группового мнения экспертов был применен метод средних арифметических рангов. Прежде всего была подсчитана сумма рангов, присвоенных проектам (см. табл.11.2). Затем эта сумма была разделена на число экспертов, в результате - рассчитан средний арифметический ранг (именно эта операция дала название методу). По средним рангам строится итоговая ранжировка (в другой терминологии - упорядочение), исходя из принципа - чем меньше средний ранг, чем лучше проект. Наименьший средний ранг, равный 2,625, у проекта Б - следовательно, в итоговой ранжировке он получает ранг 1. Следующая по величине сумма, равная 3,125, у проекта М-К - и он получает итоговый ранг 2. Проекты Л и Сол имеют одинаковые суммы (равные 3,25), значит, с точки зрения экспертов они равноценны (при рассматриваемом способе сведения вместе мнений экспертов), а потому должны стоять на 3 и 4 местах и получают средний балл (3+4)/2 = 3,5. Дальнейшие результаты приведены в табл.11.3.
Итак, ранжировка по суммам рангов (или, что в данном случае то же самое, по средним арифметическим рангам) имеет вид:$$\text{Б} < \text{М-К} < \{\text{Л}, \text{Сол}\} < \text{Д} < \text{Стеф} < \text{Г-Б} < \text{К}.$$
Здесь запись типа "А<Б" означает, что проект А предшествует проекту Б (т.е. проект А лучше проекта Б). Поскольку проекты Л и Сол получили одинаковую сумму баллов, то по рассматриваемому методу они эквивалентны, а потому объединены в группу (в фигурных скобках). В терминологии математической статистики ранжировка (1) имеет одну связь.
Метод медиан рангов. Значит, наука сказала свое слово, итог расчетов - ранжировка (1), и на ее основе предстоит принимать решение? Так был поставлен вопрос при обсуждении полученных результатов на заседании Правления фирмы. Но тут наиболее знакомый с современной эконометрикой член Правления вспомнил, что ответы экспертов измерены в порядковой шкале, а потому для них неправомерно проводить усреднение методом средних арифметических. Надо использовать метод медиан.
Что это значит? Надо взять ответы экспертов, соответствующие одному из проектов, например, проекту Д. Это ранги 5, 5, 1, 6, 8, 5, 6, 5, 6, 5, 7, 1. Затем их надо расположить в порядке неубывания (проще было бы сказать - "в порядке возрастания", но поскольку некоторые ответы совпадают, то приходится использовать непривычный термин "неубывание"). Получим последовательность: 1, 1, 5, 5, 5, 5, 5, 6, 6, 6, 7, 8. На центральных местах - шестом и седьмом - стоят 5 и 5. Следовательно, медиана равна 5.
| Д | Л | М-К | Б | Г-Б | Сол | Стеф | К | |
|---|---|---|---|---|---|---|---|---|
| Сумма рангов | 60 | 39 | 37,5 | 31,5 | 76 | 39 | 64 | 85 |
| Среднее арифметическое рангов | 5 | 3,25 | 3,125 | 2,625 | 6,333 | 3,25 | 5,333 | 7,083 |
| Итоговый ранг по среднему арифметическому | 5 | 3,5 | 2 | 1 | 7 | 3,5 | 6 | 8 |
| Медианы рангов | 5 | 3 | 3 | 2,25 | 7,5 | 4 | 6 | 7 |
| Итоговый ранг по медианам | 5 | 2,5 | 2,5 | 1 | 8 | 4 | 6 | 7 |
Медианы совокупностей из 12 рангов, соответствующих
Поскольку проекты Л и М-К имеют одинаковые медианы баллов, то по рассматриваемому методу ранжирования они эквивалентны, а потому объединены в группу (кластер), т.е. с точки зрения математической статистики ранжировка (4) имеет одну связь.
Сравнение ранжировок по методу средних арифметических и методу медиан. Сравнение ранжировок (1) и (2) показывает их близость (похожесть). Можно принять, что проекты М-К, Л, Сол упорядочены как М-К < Л < Сол, но из-за погрешностей экспертных оценок в одном методе признаны равноценными проекты Л и Сол (ранжировка (1)), а в другом - проекты М-К и Л (ранжировка (2)). Существенным является только расхождение, касающееся упорядочения проектов К и Г-Б: в ранжировке (1) Г-Б < К, а в ранжировке (2), наоборот, К < Г-Б. Однако эти проекты - наименее привлекательные из восьми рассматриваемых, и при выборе наиболее привлекательных проектов для дальнейшего обсуждения и использования на указанное расхождение можно не обращать внимания.
Рассмотренный пример демонстрирует сходство и различие ранжировок, полученных по методу средних арифметических рангов и по методу медиан, а также пользу от их совместного применения.
Метод согласования кластеризованных ранжировок. Проблема состоит в выделении общего нестрогого порядка из набора кластеризованных ранжировок (в другой терминологии - ранжировок со связями). Этот набор может отражать мнения нескольких экспертов или быть получен при обработке мнений экспертов различными методами. Рассмотрим метод согласования кластеризованных ранжировок, позволяющий "загнать" противоречия внутрь специальным образом построенных кластеров (групп), в то время как упорядочение кластеров соответствует одновременно всем исходным упорядочениям.
В различных прикладных областях возникает необходимость анализа нескольких кластеризованных ранжировок объектов. К таким областям относятся прежде всего инженерный бизнес, менеджмент, экономика, социология, экология, прогнозирование, научные и технические исследования и т.д., особенно те их разделы, что связаны с экспертными оценками (см., например, [, ]). В качестве объектов могут выступать образцы продукции, технологии, математические модели, проекты, кандидаты на должность и др. Кластеризованные ранжировки могут быть получены как с помощью экспертов, так и объективным путем, например, при сопоставлении математических моделей с экспериментальными данными с помощью того или иного критерия качества. Описанный ниже метод был разработан в связи с проблемами химической безопасности биосферы и экологического страхования [].
В настоящем пункте рассматривается метод построения кластеризованной ранжировки, согласованной (в раскрытом ниже смысле) со всеми рассматриваемыми кластеризованными ранжировками. При этом противоречия между отдельными исходными ранжировками оказываются заключенными внутри кластеров согласованной ранжировки. В результате упорядоченность кластеров отражает общее мнение экспертов, точнее, то общее, что содержится в исходных ранжировках.
В кластеры заключены объекты, по поводу которых некоторые из исходных ранжировок противоречат друг другу. Для их упорядочения необходимо провести новые исследования. Эти исследования могут быть как формально-математическими (например, вычисление медианы Кемени, упорядочения по средним рангам или по медианам и т.п.), так и требовать привлечения новой информации из соответствующей прикладной области, возможно, проведения дополнительных научных или прикладных работ.
Введем необходимые понятия, затем сформулируем алгоритм согласования кластеризованных ранжировок в общем виде и рассмотрим его свойства.
Пусть имеется конечное число объектов, которые мы для простоты изложения будем изображать натуральными числами $$1,2,3,...,k$$ и называть их совокупность "носителем". Под кластеризованной ранжировкой, определенной на заданном носителе, понимаем следующую математическую конструкцию. Пусть объекты разбиты на группы, которые будем называть кластерами. В кластере может быть и один элемент. Входящие в один кластер объекты будем заключать в фигурные скобки. Например, объекты 1,2,3,...,10 могут быть разбиты на 7 кластеров: {1}, {2,3}, {4}, {5,6,7}, {8}, {9}, {10}. В этом разбиении один кластер {5,6,7} содержит три элемента, другой - {2,3} - два, остальные пять - по одному элементу. Кластеры не имеют общих элементов, а объединение их (как множеств) есть все рассматриваемое множество объектов (весь носитель).
Вторая составляющая кластеризованной ранжировки - это строгий линейный порядок между кластерами. Задано, какой из них первый, какой второй, и т.д. Будем изображать упорядоченность с помощью знака <. При этом кластеры, состоящие из одного элемента, будем для простоты изображать без фигурных скобок. Тогда кластеризованную ранжировку на основе введенных выше кластеров можно изобразить так:$$A = [1 < \{2,3\} < 4 < \{5,6,7\} < 8 < 9 < 10].$$
Конкретные кластеризованные ранжировки будем заключать в квадратные скобки. Если для простоты речи термин "кластер" применять только к кластеру не менее чем из 2-х элементов, то можно сказать, что в кластеризованную ранжировку $$A$$ входят два кластера {2,3} и {5,6,7} и 5 отдельных элементов.
Введенная описанным образом кластеризованная ранжировка является бинарным отношением на носителе - множестве {1,2,3,...,10}. Его структура такова. Задано отношение эквивалентности с 7-ю классами эквивалентности, а именно, {2,3}, {5,6,7}, а остальные 5 классов состоят из оставшихся 5 отдельных элементов. Затем введен строгий линейный порядок между классами эквивалентности.
Введенный математический объект известен в литературе как "ранжировка со связями" (М. Холлендер, Д. Вулф), "упорядочение" (Дж. Кемени, Дж. Снелл []), "квазисерия" (Б.Г. Миркин), "совершенный квазипорядок" (Ю.А. Шрейдер [, с.127, 130]). Учитывая разнобой в терминологии, было признано полезным ввести собственный термин "кластеризованная ранжировка", поскольку в нем явным образом названы основные элементы изучаемого математического объекта - кластеры, рассматриваемые на этапе согласования ранжировок как
Следующее важное понятие - противоречивость. Оно определяется для четверки - две кластеризованные ранжировки на одном и том же носителе и два различных объекта - элементы того же носителя. При этом два элемента из одного кластера будем связывать символом равенства = , как эквивалентные.
Пусть $$A$$ и $$B$$ - две кластеризованные ранжировки. Пару объектов $$(a,b)$$ назовем "противоречивой" относительно кластеризованных ранжировок $$A$$ и $$B$$, если эти два элемента по-разному упорядочены в $$A$$ и $$B$$, т.е. $$a < b$$ в $$A$$ и $$a > b$$ в $$B$$ (первый вариант противоречивости) либо $$a>b$$ в $$A$$ и $$a<b$$ в $$B$$ (второй вариант противоречивости). Отметим, что в соответствии с этим определением пара объектов $$(a ,b)$$, эквивалентная хотя бы в одной кластеризованной ранжировке, не может быть противоречивой: эквивалентность $$a = b$$ не образует "противоречия" ни с $$a<b$$, ни с $$a>b$$. Это свойство оказывается полезным при выделении противоречивых пар.
В качестве примера рассмотрим, кроме $$A$$, еще две кластеризованные ранжировки$$\begin{gathered} B = [\{1,2\} < \{3,4, 5\} < 6 < 7 < 9 < \{8, 10\}], \\ C = [3 < \{1, 4\} < 2 < 6 < \{5, 7, 8\} < \{9, 10\}]. \end{gathered}$$
Совокупность противоречивых пар объектов для двух кластеризованных ранжировок $$A$$ и $$B$$ назовем "ядром противоречий" и обозначим $$S(A,B)$$. Для рассмотренных выше в качестве примеров трех кластеризованных ранжировок $$A, B$$ и $$C$$, определенных на одном и том же носителе {1, 2, 3,..., 10}, имеем$$\begin{gathered} S(A,B) = [(8, 9)], S(A,C) = [(1, 3), (2,4)],\\ S(B,C) = [(1, 3), (2, 3), (2, 4), (5, 6), (8,9)]. \end{gathered}$$
Как при ручном, так и при программном нахождении ядра можно в поисках противоречивых пар просматривать пары $$(1,2), (1,3), (1,4), .... , (1,k)$$, затем $$(2,3), (2,4), ..., (2,k)$$, потом $$(3,4), ..., (3, k)$$, и т.д., вплоть до последней пары $$(k-1, k)$$.
Пользуясь понятиями дискретной математики, "ядро противоречий" можно изобразить графом с вершинами в точках носителя. При этом противоречивые пары задают ребра этого графа. Граф для $$S(A,B)$$ имеет только одно ребро (одна связная компонента более чем из одной точки). Граф для $$S(A,C)$$ - 2 ребра (две связные компоненты более чем из одной точки). Граф для $$S(B,C)$$ - 5 ребер (три связные компоненты более чем из одной точки, а именно, {1, 2 , 3, 4}, {5, 6} и {8, 9}).
Каждую кластеризованную ранжировку, как и любое бинарное отношение, можно задать матрицей $$||x(a,b)||$$ из 0 и 1 порядка $$k \times k$$. При этом $$x(a,b) = 1$$ тогда и только тогда, когда $$a < b$$ либо $$a = b$$. В первом случае $$x(b,a) = 0$$, а во втором $$x(b,a) = 1$$. При этом хотя бы одно из чисел $$x(a,b)$$ и $$x(b,a)$$ равно 1. Из определения противоречивости пары $$(a, b)$$ вытекает, что для нахождения всех таких пар достаточно поэлементно перемножить две матрицы $$||x(a,b)||$$ и $$||y(a,b)||$$, соответствующие двум кластеризованным ранжировкам, и отобрать те и только те пары, для которых $$x(a,b)y(a,b) = x(b,a)y(b,a)=0$$.
Алгоритм согласования некоторого числа (двух или более) кластеризованных ранжировок состоят из трех этапов. На первом выделяются противоречивые пары объектов во всех парах кластеризованных ранжировок. На втором формируются кластеры итоговой кластеризованной ранжировки (т.е.
Корректность подобного упорядочивания, т.е. его независимость от выбора той или иной пары объектов, вытекает из соответствующих теорем, доказанных в работе [].
Два объекта из разных кластеров согласующей кластеризованной ранжировки могут оказаться эквивалентными в одной из исходных кластеризованных ранжировок (т.е. находиться в одном кластере). В таком случае надо рассмотреть упорядоченность этих объектов в какой-либо другой из исходных кластеризованных ранжировок. Если же во всех исходных кластеризованных ранжировках два рассматриваемых объекта находились в одном кластере, то естественно считать (и это является уточнением к этапу 3 алгоритма), что они находятся в одном кластере и в согласующей кластеризованной ранжировке.
Результат согласования кластеризованных ранжировок $$A, B, C,..$$. обозначим $$f(A, B, C,...)$$. Тогда$$\begin{gathered} f(A, B) = [1<2<3<4<5<6<7<\{8, 9\}<10], \\ f(A, C) = [\{1,3\}<\{2, 4\}<6<\{5,7\}<8<9<10], \\ f(B, C) = [\{1,2,3,4\}<\{5,6\}<7<\{8,9\}<10], \\ f(A, B, C) = f(B, C) = [\{1,2,3,4\} <\{5,6\}<7<\{8, 9\}<10]. \end{gathered}$$
Итак, в случае $$f(A, B)$$ дополнительного изучения с целью упорядочения требуют только объекты 8 и 9. В случае $$f(A, C)$$ кластер {5,7} появился не потому, что относительно объектов 5 и 7 имеется противоречие, а потому, что в обеих исходных ранжировках эти объекты не различаются. В случае $$f(B, C)$$ четыре объекта с номерами 1, 2, 3, 4 объединились в один кластер, т.е. кластеризованные ранжировки оказались настолько противоречивыми, что процедура согласования не позволила провести достаточно полную декомпозицию задачи нахождения итогового мнения экспертов.
Обсудим некоторые свойства алгоритмов согласования.
1. Пусть $$D = f(A, B, C,...)$$. Если $$a<b$$ в согласующей кластеризованной ранжировке $$D$$, то $$a<b$$ или $$a=b$$ в каждой из исходных ранжировок $$A, B, C, ..$$., причем хотя бы в одной из них справедливо строгое неравенство.
2. Построение согласующих кластеризованных ранжировок может осуществляться поэтапно. В частности,$$f(A,B,C) = f(f(A,B), f(A,C), f(B,C)).$$
Ясно, что ядро противоречий для набора кластеризованных ранжировок является объединением таких ядер для всех пар рассматриваемых ранжировок.
3. Построение согласующих кластеризованных ранжировок нацелено на выделение общего упорядочения в исходных кластеризованных ранжировках. Однако при этом некоторые общие свойства исходных кластеризованных ранжировок могут теряться. Так, при согласовании ранжировок $$B$$ и $$C$$, рассмотренных выше, противоречия в упорядочении элементов 1 и 2 не было - в ранжировке В эти объекты входили в один кластер, т.е. 1 = 2, в то время как 1<2 в кластеризованной ранжировке $$C$$. Значит, при их отдельном рассмотрении можно принять упорядочение 1<2. Однако в $$f(B,C)$$ они попали в один кластер, т.е. возможность их упорядочения исчезла. Это связано с поведением объекта 3, который "перескочил" в С на первое место и "увлек с собой в противоречие" пару (1, 2), образовав противоречивые пары и с 1, и с 2.
Другими словами, связная компонента графа, соответствующего ядру противоречий, сама по себе не всегда является
4. Необходимость согласования кластеризованных ранжировок возникает, в частности, при разработке методики применения экспертных оценок в задачах экологического страхования и химической безопасности биосферы. Как уже говорилось, популярным является метод упорядочения по средним рангам, в котором итоговая ранжировка строится на основе средних арифметических рангов, выставленных отдельными экспертами [, ]. Однако из теории измерений известно (см. лекцию 5), что более обоснованным является использование не средних арифметических, а медиан. Вместе с тем метод средних арифметических рангов весьма известен и широко применяется, так что просто отбросить его нецелесообразно. Поэтому было принято решение об одновременном применении обеих методов. Реализация этого решения потребовала разработки методики согласования двух указанных кластеризованных ранжировок.
5. Область применения рассматриваемого метода не ограничивается экспертными оценками. Он может быть использован, например, для сравнения качества математических моделей процесса испарения жидкости. Имелись данные экспериментов и результаты расчетов по 8 математическим моделям. Сравнивать модели можно по различным критериям качества. Например, по сумме модулей относительных отклонений расчетных и экспериментальных значений. Можно действовать и по другому. В каждой экспериментальной точке упорядочить модели по качеству, а потом получить единые оценки методами средних арифметических и медиан рангов. Использовались и иные методы. Затем применялись методы согласования кластеризованных ранжировок, полученных различными способами. В результате оказалось возможным упорядочить модели по качеству и использовать это упорядочение при разработке банка математических моделей, используемого в задачах химической безопасности биосферы.
6. Рассматриваемый метод согласования кластеризованных ранжировок построен в соответствии с методологией теории устойчивости, согласно которой результат обработки данных, инвариантный относительно метода обработки, соответствует реальности, а результат расчетов, зависящий от метода обработки, отражает субъективизм исследователя, а не объективные соотношения.
Основные математические задачи анализа экспертных оценок. Ясно, что при анализе мнений экспертов можно применять самые разнообразные статистические методы, описывать их - значит описывать практически всю прикладную статистику. Тем не менее можно выделить основные широко используемые в настоящее время методы математической обработки экспертных оценок - это проверка согласованности мнений экспертов (или классификация экспертов, если нет согласованности) и усреднение мнений экспертов внутри согласованной группы.
Поскольку ответы экспертов во многих процедурах экспертного опроса - не числа, а такие объекты нечисловой природы, как градации качественных признаков, ранжировки, разбиения, результаты парных сравнений, нечеткие предпочтения и т.д., то для их анализа оказываются полезными методы статистики нечисловых данных.
]).
Эксперт может сравнить два объекта, сказать, какой из двух лучше (метод парных сравнений), дать им оценки типа "хороший", "приемлемый", "плохой", упорядочить несколько объектов по привлекательности, но обычно не может ответить, во сколько раз или на сколько один объект лучше другого. Другими словами, ответы эксперта обычно измерены в порядковой шкале или являются ранжировками, результатами парных сравнений и другими объектами нечисловой природы, но не числами. Распространенное заблуждение состоит в том, что ответы экспертов стараются рассматривать как числа, занимаются "оцифровкой" их мнений, приписывая этим мнениям численные значения - баллы, которые потом обрабатывают с помощью методов прикладной статистики как результаты обычных физико-технических измерений. В случае произвольности "оцифровки" выводы, полученные в результате подобной обработки данных, могут не иметь отношения к реальности. В связи с "оцифровкой" уместно вспомнить классическую притчу о человеке, который ищет потерянные ключи под фонарем, хотя потерял их в кустах. На вопрос, почему он так делает, отвечает: "Под фонарем светлее". Это, конечно, верно. Но, к сожалению, весьма малы шансы найти потерянные ключи под фонарем. Так и с "оцифровкой" нечисловых данных. Она дает возможность имитации научной деятельности, но не возможность найти истину.
Проверка согласованности мнений экспертов и классификация экспертных мнений. Ясно, что мнения разных экспертов различаются. Важно понять, насколько велико это различие. Если мало - усреднение мнений экспертов позволит выделить то общее, что есть у всех экспертов, отбросив случайные отклонения в ту или иную сторону. Если велико - усреднение является чисто формальной процедурой. Так, если представить себе, что ответы экспертов равномерно покрывают поверхность бублика, то формальное усреднение укажет на центр дырки от бублика, а такого мнения не придерживается ни один эксперт. Из сказанного ясна важность проблемы проверки согласованности мнений экспертов.
Разработан ряд методов такой проверки. Статистические методы проверки согласованности зависят от математической природы ответов экспертов. Соответствующие статистические теории весьма трудны, если эти ответы - ранжировки или разбиения, и достаточно просты, если ответы - результаты независимых парных сравнений. Отсюда вытекает рекомендация по организации экспертного опроса: не старайтесь сразу получить от эксперта ранжировку или разбиение, ему трудно это сделать, да и имеющиеся математические методы не позволяют далеко продвинуться в анализе подобных данных.
Например, рекомендуют проверять согласованность ранжировок с помощью коэффициента ранговой конкордации Кендалла-Смита. Но давайте вспомним, какая статистическая модель при этом используется. Проверяется нулевая гипотеза, согласно которой ранжировки независимы и равномерно распределены на множестве всех ранжировок. Если эта гипотеза принимается, то конечно, ни о какой согласованности мнений экспертов говорить нельзя. А если отклоняется? Тоже нельзя. Например, может быть два (или больше) центра, около которых группируются ответы экспертов. Нулевая гипотеза отклоняется. Но разве можно говорить о согласованности?
Эксперту гораздо легче на каждом шагу сравнивать только два объекта. Пусть он занимается парными сравнениями. Непараметрическая теория парных сравнений (теория люсианов) позволяет решать более сложные задачи, чем статистика ранжировок или разбиений. В частности, вместо гипотезы равномерного распределения можно рассматривать гипотезу однородности, т.е. вместо совпадения всех распределений с одним фиксированным (равномерным) можно проверять лишь совпадение распределений мнений экспертов между собой, что естественно трактовать как согласованность их мнений. Таким образом, удается избавиться от неестественного предположения равномерности.
При отсутствии согласованности экспертов естественно разбить их на группы сходных по мнению. Это можно сделать различными методами статистики объектов нечисловой природы, относящимися к кластер-анализу, предварительно введя метрику в пространство мнений экспертов. Идея американского математика Джона Кемени об аксиоматическом введении метрик нашла многочисленных продолжателей. Однако методы кластер-анализа обычно являются эвристическими. В частности, обычно невозможно с позиций статистической теории строго обосновать "законность" объединения двух кластеров в один. Имеется важное исключение - для независимых парных сравнений (люсианов) разработаны методы, позволяющие проверять возможность объединения кластеров как статистическую гипотезу. Это - еще один аргумент за то, чтобы рассматривать теорию люсианов как ядро математических
Нахождение итогового мнения комиссии экспертов. Пусть мнения комиссии экспертов или какой-то ее части признаны согласованными. Каково же ее итоговое (среднее, общее) мнение? Согласно идее Джона Кемени следует найти среднее мнение как решение оптимизационной задачи. А именно, надо минимизировать суммарное расстояние от кандидата в средние до мнений экспертов. Найденное таким способом среднее мнение называют "медианой Кемени".
Математическая сложность состоит в том, что мнения экспертов лежат в некотором пространстве объектов нечисловой природы. Общая теория подобного усреднения рассмотрена выше (см. 5.5). В частности, показано, что в силу закона больших чисел (в пространствах произвольной природы) среднее мнение при увеличении числа экспертов (чьи мнения независимы и одинаково распределены) приближается к некоторому пределу, который, как известно, является математическим ожиданием (случайного элемента, имеющего то же распределение, что и ответы экспертов).
В конкретных пространствах нечисловых мнений экспертов вычисление медианы Кемени может быть достаточно сложным делом. Кроме свойств пространства, велика роль конкретных метрик. Так, в пространстве ранжировок при использовании метрики, связанной с коэффициентом ранговой корреляции Кендалла, необходимо проводить достаточно сложные расчеты, в то время как применение показателя различия на основе коэффициента ранговой корреляции Спирмена приводит к упорядочению по средним арифметическим рангам.
Бинарные отношения и расстояние Кемени. Как известно, бинарное отношение $$A$$ на конечном множестве $$Q = \{q_1, q_2,..., q_k\}$$ - это подмножество декартова квадрата $$Q^2 = \{(q_m , q_n), m,n = 1, 2, ..., k\}$$. При этом пара $$(q_m , q_n)$$ входит в $$A$$ тогда и только тогда, когда между $$q_m$$ и $$q_n$$ имеется рассматриваемое отношение.
Напомним, что каждую кластеризованную ранжировку, как и любое бинарное отношение, можно задать квадратной матрицей $$||x(a,b)||$$ из 0 и 1 порядка $$k\times k$$. При этом $$x(a, b) = 1$$ тогда и только тогда, когда $$a < b$$ либо $$a = b$$. В первом случае $$x(b, a) = 0$$, а во втором $$x(b, a) = 1$$. При этом хотя бы одно из чисел $$x(a, b))$$ и $$x(b, a)$$ равно 1.
В экспертных методах используют, в частности, такие бинарные отношения, как ранжировки (упорядочения, или разбиения на группы, между которыми имеется строгий порядок), отношения эквивалентности, толерантности (
Определение. Расстоянием Кемени между бинарными отношениями $$A$$ и $$B$$, описываемыми матрицами $$|| a(i ,j) ||$$ и $$|| b(i ,j) ||$$ соответственно, называется число$$d(A, B) = \Sigma |a(i ,j) - b(i ,j)|,$$ где суммирование производится по всем $$i, j$$ от 1 до $$k$$, т.е. расстояние Кемени между бинарными отношениями равно сумме модулей разностей элементов, стоящих на одних и тех же местах в соответствующих им матрицах.
Легко видеть, что расстояние Кемени - это число несовпадающих элементов в матрицах $$||a(i,j)||$$ и $$||b(i,j)||$$.
Расстояние Кемени основано на некоторой системе аксиом. Эта система аксиом и вывод из нее формулы для расстояния Кемени между упорядочениями содержится в книге []. Она сыграла большую роль в развитии в нашей стране такого научного направления, как анализ нечисловой информации (см. историю вопроса в монографиях [, ]). В дальнейшем под влиянием работ Дж. Кемени были предложены различные системы аксиом для получения расстояний в тех или иных нужных для социально-экономических, технических, медицинских и иных исследований пространствах (см. 1.6).
Медиана Кемени и законы больших чисел. С помощью расстояния Кемени находят итоговое мнение комиссии экспертов. Пусть $$A_1 , A_2 , A_3 ,..., A_p$$ - ответы $$p$$ экспертов, представленные в виде бинарных отношений. Для их усреднения используют медиану Кемени$$Arg\min_A\sum_{i=1}^pd(A_i,A),$$ где $$Arg\min$$ - то или те значения $$A$$, при которых достигает минимума указанная сумма расстояний Кемени от ответов экспертов до текущей переменной $$A$$, по которой и проводится минимизация. Таким образом,$$\sum_{i=1}^p d(A_i,A)=d(A_1,A)+d(A_2,A)+d(A_3,A)+...+d(A_p,A).$$
Кроме медианы Кемени, используют среднее по Кемени, в котором вместо $$d(A_i, A)$$ стоит $$d^2(A_i, A)$$.
Медиана Кемени - частный случай определения эмпирического среднего в пространствах нечисловой природы. Для нее справедлив закон больших чисел, т.е. эмпирическое среднее приближается при росте числа составляющих (т.е. $$p$$ - числа слагаемых в сумме) к теоретическому среднему:$$Arg\min\sum d(A_i,A)\rightarrow Arg\min M d(A_1,A).$$
Здесь $$M$$ - символ математического ожидания. Предполагается, что ответы $$p$$ экспертов $$A_1, A_2, A_3,..., A_p$$ есть основания рассматривать как независимые одинаково распределенные случайные элементы (т.е. как
Законы больших чисел показывают, во-первых, что медиана Кемени обладает устойчивостью по отношению к незначительному изменению состава экспертной комиссии; во-вторых, при увеличении числа экспертов она приближается к некоторому пределу. Его естественно рассматривать как истинное мнение экспертов, от которого каждый из них несколько отклонялся по случайным причинам.
Вычисление медианы Кемени - задача
Рассмотрим упрощенный пример вычисления медианы Кемени. Пусть дана квадратная матрица (порядка 9) попарных расстояний для множества бинарных отношений из 9 элементов $$A_1 , A_2 , A_3 ,..., A_9$$ (см. табл.11.4). Пусть требуется найти в этом множестве медиану для множества из 5 элементов $$\{A_2 , A_4 , A_5 , A_8, A_9\}$$.
| $$A_1$$ | $$A_2$$ | $$A_3$$ | $$A_4$$ | $$A_5$$ | $$A_6$$ | $$A_7$$ | $$A_8$$ | $$A_9$$ | |
| $$A_1$$ | 0 | 2 | 13 | 1 | 7 | 4 | 10 | 3 | 11 |
| $$A_2$$ | 2 | 0 | 5 | 6 | 1 | 3 | 2 | 5 | 1 |
| $$A_3$$ | 13 | 5 | 0 | 2 | 2 | 7 | 6 | 5 | 7 |
| $$A_4$$ | 1 | 6 | 2 | 0 | 5 | 4 | 3 | 8 | 8 |
| $$A_5$$ | 7 | 1 | 2 | 5 | 0 | 10 | 1 | 3 | 7 |
| $$A_6$$ | 4 | 3 | 7 | 4 | 10 | 0 | 2 | 1 | 5 |
| $$A_7$$ | 10 | 2 | 6 | 3 | 1 | 2 | 0 | 6 | 3 |
| $$A_8$$ | 3 | 5 | 5 | 8 | 3 | 1 | 6 | 0 | 9 |
| $$A_9$$ | 11 | 1 | 7 | 8 | 7 | 5 | 3 | 9 | 0 |
В соответствии с определением медианы Кемени следует ввести в рассмотрение функцию$$C(A)=\sum d(A_i,A)=d(A_2,A)+d(A_4,A)+d(A_5,A)+d(A_8,A)+d(A_9,A),$$ рассчитать ее значения для всех $$A_1, A_2, A_3, ..., A_9$$ и выбрать наименьшее. Проведем расчеты:$$C(A_1)=d(A_2,A_1)+d(A_4,A_1)+d(A_5,A_1)+d(A_8,A_1)+d(A_9,A_1)= \\ = 2+1+7+3+11=24, \\ C(A_2)=d(A_2,A_2)+d(A_4,A_2)+d(A_5,A_2)+d(A_8,A_2)+d(A_9,A_2)= \\ = 0+6+1+5+1=13, \\ C(A_3)=d(A_2,A_3)+d(A_4,A_3)+d(A_5,A_3)+d(A_8,A_3)+d(A_9,A_3)= \\ = 5+2+2+5+7=21, \\ C(A_4)=d(A_2,A_4)+d(A_4,A_4)+d(A_5,A_4)+d(A_8,A_4)+d(A_9,A_4)= \\ = 6+0+5+8+8=27, \\ C(A_5)=d(A_2,A_5)+d(A_4,A_5)+d(A_5,A_5)+d(A_8,A_5)+d(A_9,A_5)= \\ = 1+5+0+3+7=16, \\ C(A_6)=d(A_2,A_6)+d(A_4,A_6)+d(A_5,A_6)+d(A_8,A_6)+d(A_9,A_6)= \\ = 3+4+10+1+5=23, \\ C(A_7)=d(A_2,A_7)+d(A_4,A_7)+d(A_5,A_7)+d(A_8,A_7)+d(A_9,A_7)= \\ = 2+3+1+6+3=15, \\ C(A_8)=d(A_2,A_8)+d(A_4,A_8)+d(A_5,A_8)+d(A_8,A_8)+d(A_9,A_8)= \\ = 5+8+3+0+9=25, \\ C(A_9)=d(A_2,A_9)+d(A_4,A_9)+d(A_5,A_9)+d(A_8,A_9)+d(A_9,A_9)= \\ = 1+8+7+9+0=25.$$
Из всех вычисленных сумм наименьшая равна 13, и достигается она при $$A=A_2$$, следовательно, медиана Кемени - это множество $$\{A_2\}$$, состоящее из одного элемента $$A_2$$.
| Эксперты | Упорядочения |
|---|---|
| 1 | $$1 < \{2,3\} < 4 < 5 < \{6,7\}$$ |
| 2 | $$\{1,3\} < 4 < 2 < 5 < 7 < 6$$ |
| 3 | $$1 < 4 < 2 < 3 < 6 < 5 < 7$$ |
| 4 | $$1 < \{2, 4\} < 3 < 5 < 7 <6$$ |
| 5 | $$2 < 3 < 4 < 5 <1 <6 <7$$ |
| 6 | $$1 < 3 < 2 < 5 < 6 < 7 < 4$$ |
| 7 | $$1 < 5 < 3 < 4 < 2 < 6 < 7$$ |
Найдите:
| $$A_1$$ | $$A_2$$ | $$A_3$$ | $$A_4$$ | $$A_5$$ | $$A_6$$ | $$A_7$$ | $$A_8$$ | $$A_9$$ | |
| $$A_1$$ | 0 | 5 | 3 | 6 | 7 | 4 | 10 | 3 | 11 |
| $$A_2$$ | 5 | 0 | 5 | 6 | 10 | 3 | 2 | 5 | 7 |
| $$A_3$$ | 3 | 5 | 0 | 8 | 2 | 7 | 6 | 5 | 7 |
| $$A_4$$ | 6 | 6 | 8 | 0 | 5 | 4 | 3 | 8 | 8 |
| $$A_5$$ | 7 | 10 | 2 | 5 | 0 | 10 | 8 | 3 | 7 |
| $$A_6$$ | 4 | 3 | 7 | 4 | 10 | 0 | 2 | 3 | 5 |
| $$A_7$$ | 10 | 2 | 6 | 3 | 8 | 2 | 0 | 6 | 3 |
| $$A_8$$ | 3 | 5 | 5 | 8 | 3 | 3 | 6 | 0 | 9 |
| $$A_9$$ | 11 | 7 | 7 | 8 | 7 | 5 | 3 | 9 | 0 |
Для получения официальных документов о завершении программы дополнительного профессионального образования (удостоверения о повышении квалификации, дипломов о профессиональной переподготовке и MBA) необходимо предоставить:
Внимание! Вы можете не заказывать доставку бумажной версии официального документы, а скачать его в электронном виде и распечатать самостоятельно. Информация о выданном документе в течение 1 месяца загружается в Федеральную информационную систему «Федеральный реестр сведений о документах об образовании и (или) о квалификации, документах об обучении» - ФИС ФРДО.
Доступ на новый сайт осуществляется с использованием адреса электронной почты, который был указан вами при регистрации на "старом". Мы постарались перенести все ваши данные с прежнего ресурса, однако не исключена вероятность потери части информации.
При возникновении проблемы со входом, воспользуйтесь функцией сброса пароля
Если вы обнаружите несоответствия, пожалуйста, сообщите нам.