Опубликован: 09.11.2009 | Доступ: свободный | Студентов: 3994 / 952 | Оценка: 4.66 / 4.45 | Длительность: 54:13:00
Специальности: Экономист
Лекция 11:

Статистика нечисловых данных

Основные математические задачи анализа экспертных оценок. Ясно, что при анализе мнений экспертов можно применять самые разнообразные статистические методы, описывать их - значит описывать практически всю прикладную статистику. Тем не менее можно выделить основные широко используемые в настоящее время методы математической обработки экспертных оценок - это проверка согласованности мнений экспертов (или классификация экспертов, если нет согласованности) и усреднение мнений экспертов внутри согласованной группы.

Поскольку ответы экспертов во многих процедурах экспертного опроса - не числа, а такие объекты нечисловой природы, как градации качественных признаков, ранжировки, разбиения, результаты парных сравнений, нечеткие предпочтения и т.д., то для их анализа оказываются полезными методы статистики нечисловых данных.

Почему ответы экспертов часто носят нечисловой характер? Наиболее общий ответ состоит в том, что люди не мыслят числами. В мышлении человека используются образы, слова, но не числа. Поэтому требовать от эксперта ответ в форме чисел - значит насиловать его разум. Даже в экономике менеджеры и предприниматели, принимая решения, лишь частично опираются на численные расчеты. Это видно из условного (т.е. определяемого произвольно принятыми соглашениями, обычно оформленными в виде нормативных актов и инструкций) характера балансовой прибыли, амортизационных отчислений и других экономических показателей. Поэтому фраза типа "фирма стремится к максимизации прибыли" не может иметь строго определенного смысла. Достаточно спросить: "Максимизация прибыли - за какой период?" И сразу станет ясно, что степень оптимальности принимаемых решений зависит от горизонта планирования (на экономико-математическом уровне этот сюжет рассмотрен в монографии [ [ 1.15 ] ]).

Эксперт может сравнить два объекта, сказать, какой из двух лучше (метод парных сравнений), дать им оценки типа "хороший", "приемлемый", "плохой", упорядочить несколько объектов по привлекательности, но обычно не может ответить, во сколько раз или на сколько один объект лучше другого. Другими словами, ответы эксперта обычно измерены в порядковой шкале или являются ранжировками, результатами парных сравнений и другими объектами нечисловой природы, но не числами. Распространенное заблуждение состоит в том, что ответы экспертов стараются рассматривать как числа, занимаются "оцифровкой" их мнений, приписывая этим мнениям численные значения - баллы, которые потом обрабатывают с помощью методов прикладной статистики как результаты обычных физико-технических измерений. В случае произвольности "оцифровки" выводы, полученные в результате подобной обработки данных, могут не иметь отношения к реальности. В связи с "оцифровкой" уместно вспомнить классическую притчу о человеке, который ищет потерянные ключи под фонарем, хотя потерял их в кустах. На вопрос, почему он так делает, отвечает: "Под фонарем светлее". Это, конечно, верно. Но, к сожалению, весьма малы шансы найти потерянные ключи под фонарем. Так и с "оцифровкой" нечисловых данных. Она дает возможность имитации научной деятельности, но не возможность найти истину.

Проверка согласованности мнений экспертов и классификация экспертных мнений. Ясно, что мнения разных экспертов различаются. Важно понять, насколько велико это различие. Если мало - усреднение мнений экспертов позволит выделить то общее, что есть у всех экспертов, отбросив случайные отклонения в ту или иную сторону. Если велико - усреднение является чисто формальной процедурой. Так, если представить себе, что ответы экспертов равномерно покрывают поверхность бублика, то формальное усреднение укажет на центр дырки от бублика, а такого мнения не придерживается ни один эксперт. Из сказанного ясна важность проблемы проверки согласованности мнений экспертов.

Разработан ряд методов такой проверки. Статистические методы проверки согласованности зависят от математической природы ответов экспертов. Соответствующие статистические теории весьма трудны, если эти ответы - ранжировки или разбиения, и достаточно просты, если ответы - результаты независимых парных сравнений. Отсюда вытекает рекомендация по организации экспертного опроса: не старайтесь сразу получить от эксперта ранжировку или разбиение, ему трудно это сделать, да и имеющиеся математические методы не позволяют далеко продвинуться в анализе подобных данных.

Например, рекомендуют проверять согласованность ранжировок с помощью коэффициента ранговой конкордации Кендалла-Смита. Но давайте вспомним, какая статистическая модель при этом используется. Проверяется нулевая гипотеза, согласно которой ранжировки независимы и равномерно распределены на множестве всех ранжировок. Если эта гипотеза принимается, то конечно, ни о какой согласованности мнений экспертов говорить нельзя. А если отклоняется? Тоже нельзя. Например, может быть два (или больше) центра, около которых группируются ответы экспертов. Нулевая гипотеза отклоняется. Но разве можно говорить о согласованности?

Эксперту гораздо легче на каждом шагу сравнивать только два объекта. Пусть он занимается парными сравнениями. Непараметрическая теория парных сравнений (теория люсианов) позволяет решать более сложные задачи, чем статистика ранжировок или разбиений. В частности, вместо гипотезы равномерного распределения можно рассматривать гипотезу однородности, т.е. вместо совпадения всех распределений с одним фиксированным (равномерным) можно проверять лишь совпадение распределений мнений экспертов между собой, что естественно трактовать как согласованность их мнений. Таким образом, удается избавиться от неестественного предположения равномерности.

При отсутствии согласованности экспертов естественно разбить их на группы сходных по мнению. Это можно сделать различными методами статистики объектов нечисловой природы, относящимися к кластер-анализу, предварительно введя метрику в пространство мнений экспертов. Идея американского математика Джона Кемени об аксиоматическом введении метрик нашла многочисленных продолжателей. Однако методы кластер-анализа обычно являются эвристическими. В частности, обычно невозможно с позиций статистической теории строго обосновать "законность" объединения двух кластеров в один. Имеется важное исключение - для независимых парных сравнений (люсианов) разработаны методы, позволяющие проверять возможность объединения кластеров как статистическую гипотезу. Это - еще один аргумент за то, чтобы рассматривать теорию люсианов как ядро математических методов экспертных оценок.

Нахождение итогового мнения комиссии экспертов. Пусть мнения комиссии экспертов или какой-то ее части признаны согласованными. Каково же ее итоговое (среднее, общее) мнение? Согласно идее Джона Кемени следует найти среднее мнение как решение оптимизационной задачи. А именно, надо минимизировать суммарное расстояние от кандидата в средние до мнений экспертов. Найденное таким способом среднее мнение называют "медианой Кемени".

Математическая сложность состоит в том, что мнения экспертов лежат в некотором пространстве объектов нечисловой природы. Общая теория подобного усреднения рассмотрена выше (см. 5.5). В частности, показано, что в силу закона больших чисел (в пространствах произвольной природы) среднее мнение при увеличении числа экспертов (чьи мнения независимы и одинаково распределены) приближается к некоторому пределу, который, как известно, является математическим ожиданием (случайного элемента, имеющего то же распределение, что и ответы экспертов).

В конкретных пространствах нечисловых мнений экспертов вычисление медианы Кемени может быть достаточно сложным делом. Кроме свойств пространства, велика роль конкретных метрик. Так, в пространстве ранжировок при использовании метрики, связанной с коэффициентом ранговой корреляции Кендалла, необходимо проводить достаточно сложные расчеты, в то время как применение показателя различия на основе коэффициента ранговой корреляции Спирмена приводит к упорядочению по средним арифметическим рангам.

Бинарные отношения и расстояние Кемени. Как известно, бинарное отношение A на конечном множестве Q = \{q_1, q_2,..., q_k\} - это подмножество декартова квадрата Q^2 = \{(q_m , q_n), m,n = 1, 2, ..., k\}. При этом пара (q_m , q_n) входит в A тогда и только тогда, когда между q_m и q_n имеется рассматриваемое отношение.

Напомним, что каждую кластеризованную ранжировку, как и любое бинарное отношение, можно задать квадратной матрицей ||x(a,b)|| из 0 и 1 порядка k\times k. При этом x(a, b) = 1 тогда и только тогда, когда a < b либо a = b. В первом случае x(b, a) = 0, а во втором x(b, a) = 1. При этом хотя бы одно из чисел x(a, b)) и x(b, a) равно 1.

В экспертных методах используют, в частности, такие бинарные отношения, как ранжировки (упорядочения, или разбиения на группы, между которыми имеется строгий порядок), отношения эквивалентности, толерантности (отношения сходства). Как следует из сказанного выше, каждое бинарное отношение A можно описать матрицей || a(i ,j) || из 0 и 1, причем a(i ,j) = 1 тогда и только тогда, когда q_i и q_j находятся в отношении A, и a(i ,j) =  0 - в противном случае.

Определение. Расстоянием Кемени между бинарными отношениями A и B, описываемыми матрицами || a(i ,j) || и || b(i ,j) || соответственно, называется число

d(A, B) = \Sigma |a(i ,j) - b(i ,j)|,
где суммирование производится по всем i, j от 1 до k, т.е. расстояние Кемени между бинарными отношениями равно сумме модулей разностей элементов, стоящих на одних и тех же местах в соответствующих им матрицах.

Легко видеть, что расстояние Кемени - это число несовпадающих элементов в матрицах ||a(i,j)|| и ||b(i,j)||.

Расстояние Кемени основано на некоторой системе аксиом. Эта система аксиом и вывод из нее формулы для расстояния Кемени между упорядочениями содержится в книге [ [ 11.9 ] ]. Она сыграла большую роль в развитии в нашей стране такого научного направления, как анализ нечисловой информации (см. историю вопроса в монографиях [ [ 1.15 ] , [ 2.15 ] ]). В дальнейшем под влиянием работ Дж. Кемени были предложены различные системы аксиом для получения расстояний в тех или иных нужных для социально-экономических, технических, медицинских и иных исследований пространствах (см. 1.6).

Медиана Кемени и законы больших чисел. С помощью расстояния Кемени находят итоговое мнение комиссии экспертов. Пусть A_1 , A_2 , A_3 ,..., A_p - ответы p экспертов, представленные в виде бинарных отношений. Для их усреднения используют медиану Кемени

Arg\min_A\sum_{i=1}^pd(A_i,A),
где Arg\min - то или те значения A, при которых достигает минимума указанная сумма расстояний Кемени от ответов экспертов до текущей переменной A, по которой и проводится минимизация. Таким образом,
\sum_{i=1}^p d(A_i,A)=d(A_1,A)+d(A_2,A)+d(A_3,A)+...+d(A_p,A).

Кроме медианы Кемени, используют среднее по Кемени, в котором вместо d(A_i, A) стоит d^2(A_i, A).

Медиана Кемени - частный случай определения эмпирического среднего в пространствах нечисловой природы. Для нее справедлив закон больших чисел, т.е. эмпирическое среднее приближается при росте числа составляющих (т.е. p - числа слагаемых в сумме) к теоретическому среднему:

Arg\min\sum d(A_i,A)\rightarrow Arg\min M d(A_1,A).

Здесь M - символ математического ожидания. Предполагается, что ответы p экспертов A_1, A_2, A_3,..., A_p есть основания рассматривать как независимые одинаково распределенные случайные элементы (т.е. как случайную выборку) в соответствующем пространстве произвольной природы, например, в пространстве упорядочений или отношений эквивалентности. Систематически эмпирические и теоретические средние и соответствующие различные варианты законов больших чисел рассмотрены выше (см. 5.5.).

Законы больших чисел показывают, во-первых, что медиана Кемени обладает устойчивостью по отношению к незначительному изменению состава экспертной комиссии; во-вторых, при увеличении числа экспертов она приближается к некоторому пределу. Его естественно рассматривать как истинное мнение экспертов, от которого каждый из них несколько отклонялся по случайным причинам.

Вычисление медианы Кемени - задача целочисленного программирования. Для ее нахождения используются различные алгоритмы дискретной математики, в частности, основанные на методе ветвей и границ. Применяют также алгоритмы, основанные на идее случайного поиска, поскольку для каждого бинарного отношения нетрудно найти множество его соседей.

Рассмотрим упрощенный пример вычисления медианы Кемени. Пусть дана квадратная матрица (порядка 9) попарных расстояний для множества бинарных отношений из 9 элементов A_1 , A_2 , A_3 ,..., A_9 (см. табл.11.4). Пусть требуется найти в этом множестве медиану для множества из 5 элементов \{A_2 , A_4 , A_5 , A_8, A_9\}.

Таблица 11.4. Матрица попарных расстояний
A_1 A_2 A_3 A_4 A_5 A_6 A_7 A_8 A_9
A_1 0 2 13 1 7 4 10 3 11
A_2 2 0 5 6 1 3 2 5 1
A_3 13 5 0 2 2 7 6 5 7
A_4 1 6 2 0 5 4 3 8 8
A_5 7 1 2 5 0 10 1 3 7
A_6 4 3 7 4 10 0 2 1 5
A_7 10 2 6 3 1 2 0 6 3
A_8 3 5 5 8 3 1 6 0 9
A_9 11 1 7 8 7 5 3 9 0

В соответствии с определением медианы Кемени следует ввести в рассмотрение функцию

C(A)=\sum d(A_i,A)=d(A_2,A)+d(A_4,A)+d(A_5,A)+d(A_8,A)+d(A_9,A),
рассчитать ее значения для всех A_1, A_2, A_3, ..., A_9 и выбрать наименьшее. Проведем расчеты:
C(A_1)=d(A_2,A_1)+d(A_4,A_1)+d(A_5,A_1)+d(A_8,A_1)+d(A_9,A_1)= \\
= 2+1+7+3+11=24, \\
C(A_2)=d(A_2,A_2)+d(A_4,A_2)+d(A_5,A_2)+d(A_8,A_2)+d(A_9,A_2)= \\
= 0+6+1+5+1=13, \\
C(A_3)=d(A_2,A_3)+d(A_4,A_3)+d(A_5,A_3)+d(A_8,A_3)+d(A_9,A_3)= \\
= 5+2+2+5+7=21, \\
C(A_4)=d(A_2,A_4)+d(A_4,A_4)+d(A_5,A_4)+d(A_8,A_4)+d(A_9,A_4)= \\
= 6+0+5+8+8=27, \\
C(A_5)=d(A_2,A_5)+d(A_4,A_5)+d(A_5,A_5)+d(A_8,A_5)+d(A_9,A_5)= \\
= 1+5+0+3+7=16, \\
C(A_6)=d(A_2,A_6)+d(A_4,A_6)+d(A_5,A_6)+d(A_8,A_6)+d(A_9,A_6)= \\
= 3+4+10+1+5=23, \\
C(A_7)=d(A_2,A_7)+d(A_4,A_7)+d(A_5,A_7)+d(A_8,A_7)+d(A_9,A_7)= \\
= 2+3+1+6+3=15, \\
C(A_8)=d(A_2,A_8)+d(A_4,A_8)+d(A_5,A_8)+d(A_8,A_8)+d(A_9,A_8)= \\
= 5+8+3+0+9=25, \\
C(A_9)=d(A_2,A_9)+d(A_4,A_9)+d(A_5,A_9)+d(A_8,A_9)+d(A_9,A_9)= \\
= 1+8+7+9+0=25.

Из всех вычисленных сумм наименьшая равна 13, и достигается она при A=A_2, следовательно, медиана Кемени - это множество \{A_2\}, состоящее из одного элемента A_2.

Анастасия Маркова
Анастасия Маркова

Здравствуйте!

4 июня я записалась на курс Прикладная статистика. Заплатила за получение сертификата. Изучала лекции, прошла Тест 1.

Сегодня вижу, что я вне курса! Почему так произошло?