Основные понятия теории статистических решений

Основные понятия

Наличие случайных факторов, оказывающих непосредственное влияние на эффективность вариантов действий, обуславливает целесообразность применения при выработке решений математического аппарата теории статистических решений и последовательного анализа. В лекциях 11, 12 рассматриваются принципы построения стохастических моделей и даются теории статистических решений и последовательного анализа.

Статистические методы требуются всегда, когда результаты не могут быть точно повторены сколь угодно много раз. Причины такой невоспроизводимости лежат в неконтролируемых и не поддающихся контролю влияниях, в неоднородности объектов опыта, в изменчивости материалов и условий опыта. Эти причины приводят к "рассеянию" количественных признаков в ряду наблюдений. Рассеяние ведет к неопределенности, при которой возможны только неформальные решения. Это обстоятельство является основой одного из современных определений статистики, которое было предложено Абрахамом Вальдом (Wald A. Statistiecal Decision Function. New York, 1950. Вальд ФА. "Позиционные игры". М. , "Наука", 1967.): статистика – совокупность методов, которые дают нам возможность принимать оптимальные решения в условиях неопределенности.

Описательная (дескриптивная) статистика ограничивается исследованием и описанием полных совокупностей. Современная индуктивная, или аналитическая, статистика исследует, напротив, только репрезентативную, представительную часть совокупности, свойства которой нас интересуют. Наблюдения части распространяются по индукции на всю генеральную совокупность. При этом решающим является случайный выбор наблюдаемой части генеральной совокупности – выборки – по аналогии с лотереей. Мы называем выборку случайной, если каждая возможная комбинация равного числа элементов из генеральной совокупности имеет равную вероятность образовать выборку. Случайная выборка важна, так как только она позволяет распространить выводы на всю генеральную совокупность. Полное исследование почти всегда или невозможно, или связано со слишком большими материальными и временными затратами.

Главную роль играет основанная на описательной статистике статистика индуктивная, или аналитическая (теория статистического вывода). Она позволяет распространить заключения, сделанные на основании выборки, на всю генеральную совокупность, установить закономерности, справедливые и вне области наблюдений. Индуктивная статистика дает возможность с помощью сопоставления экспериментальных данных с результатами, вытекающими из вероятностных моделей (идеализированных ситуаций), вынести суждение о соответствии эксперимента существующим научным теориям; при этом высказывания, естественно, должны носить вероятностный характер и сообщать практикам информацию, необходимую для принятия решения.

В теории оценивания необходимо принять решение о том, как можно наилучшим образом по выборке узнать характеристики генеральной совокупности.

В теории проверки гипотез речь идет о том, какой генеральной совокупности принадлежит данная выборка.

Современная статистика интересуется двумя направлениями: получением данных , то есть планами и проведением опытов, и анализом и интерпретацией данных, при которой из чисел "экстрагируется" максимально возможное количество информации.

Так как плохо спланированный опыт мало информативен, и нельзя исправить самой лучшей статистической техникой, планирование эксперимента становится особо важным составным элементом статистики.

Принципы планирования эксперимента

При планировании эксперимента выступают два взаимно противоположных принципа: принцип сравнимости и принцип обобщаемости.

Два опыта, в которых необходимо сравнить два вида обработки (лечения), взаимно сравнимы, если они отличаются только видами лечения, а со всех остальных точек зрения согласованы. Согласование касается следующих условий эксперимента и причин вариации:

Сравнимость отдельных экспериментов почти возможна, хотя лишь для экспериментов одной группы. Если нужно сравнивать группы экспериментов, то у них должны быть одинаковые распределения источников вариации.

Если, например, для достижения хорошей сравнимости используются только молодые самцы определенного веса и тому подобное, из одного помета, то этим обеспечивается надежная сравнимость, но утрачивается общность, для которой нужно было бы сохранение в опытах старых животных, или самок, или подобных же самцов, но из другого помета. Такой ряд экспериментов имел бы некоторую, хотя и слабую, основу для индукции.

Обобщение означает изучение и описание таких коллективов и их распределений признаков, для которых имеющиеся значения наблюдений могут рассматриваться как репрезентативные выборки. Лишь рассмотрение таких неоднородных коллективов с различными подопытными животными (возраст, пол, наследственность, предрасположенность), различным временем эксперимента (время дня, время года, метеоусловия), при различном оборудовании, различных экспериментаторах и тому подобное может привести к выводу, насколько независимы результаты от этих вариаций и мешающих факторов, то есть дать возможность провести соответствующее обобщение. Сравнимость и обобщимость для эксперимента противоположны; если сравнимость требует однородного материала, обобщимость, напротив, — неоднородного материала для получения широкого, индуктивного базиса: сравнение требует повторяющегося коллектива, обобщение – неоднородного, изменяющегося коллектива! Оба принципа должны взаимно учитываться при планировании эксперимента. Сравнение различных методов особенно благоприятно на одном и том же животном. При этом сравнимость оптимальна, а неоднородность коллектива особей может быть произвольно широкой. (Повтор. – Ред.) Полный обзор методов планирования эксперимента дан в (Herzberg Agnes M/ and Cox D.R. Recent work on the design of experiments: a bibliography and a review. J. Roy. Statist. A 132 (1969), 29-67.)

Основные принципы планирования эксперимента

Обоснование статистических решений при фиксированных экспериментах

Часто встречаются ситуации, когда на выбор решения существенное влияние оказывают факторы, информация о которых отсутствует или является недостаточно полной. Обоснование решений в этих условиях оказывается весьма эффективным с помощью статистических решений.

Сущность задач статистических решений состоит в том, что нужно сделать выбор из множества действий $$(a_1,a_2,...,a_n)$$, эффективность каждого из которых зависит от того, какое из состояний "природы" $$(\theta_1,\theta_2,...,\theta_m)$$ имеет место. Поэтому каждая пара $$(\theta_i,a_j)$$, состоящая из действия и состояния "природы", имея тот или иной исход, характеризуется значением критерия эффективности $$u_{ij}$$. Последнее приводит к $$(m\times n)$$ матрице (таблица 11.1), на основании которой нужно выбрать действие, являющееся оптимальным согласно некоторому критерию. Подобная матрица представляет стохастическую модель конфликтной ситуации, в которой одним из противников является "природа" (обстановка боевых действий, — Абчук В.А., Емельянов Л.А., Матвейчук Ф.А., Суздаль В.Г. Введение в теорию выработки решений. М., Военное издательство, 1972.). Обычно в теории статистических решений оперируют с критерием эффективности, характеризующим те или иные потери. Поэтому получаемую матрицу называют матрицей потерь.

Поясним сказанное на следующем примере.

Предположим, что ракетная подводная лодка для нанесения удара по береговой цели должна занять огневую позицию в одном из трех районов. Каждый район огневых позиций $$a_j(j=1,2,3)$$ в зависимости от состояния моря $$\theta_i(i=1,2)$$ характеризуется математическим ожиданием числа непопадающих ракет $$e(\theta,a)$$, величины которых определяются таблицей 11.2.

Очевидно, если вероятности состояний "природы" $$\theta_1,\theta_2,...,\theta_m$$ известны и равны соответственно $$P_1,P_2,...,P_m$$, где $$\sum\limits_{i=1}^{m}P_i=1$$, то за критерий можно принять среднюю (ожидаемую) эффективность действия $$a_j$$. Тогда выбирается действие, которое минимизирует данный критерий, и принимается , что это действие является оптимальным при данном априорном распределении вероятностей.

Так, если в рассматриваемом примере все состояния равновероятны, то следует выбрать действие $$a_2$$ (район №2), поскольку в этом случае средняя эффективность будет равна $$1\times \frac{1}{2}+3\times \frac{1}{2}=2,0$$, тогда как при выборе $$a_1$$ (района №1) или $$a_3$$ (района №3) она составит $$0\times \frac{1}{2}+5\times \frac{1}{2}=2,5 или 3\times \frac{1}{2}+2\times \frac{1}{2}=2,5$$ соответственно.

Таким образом, допущение априорного распределения вероятностей дает довольно простой метод выбора оптимального решения. Однако на практике истинное распределение вероятностей состояний "природы", как правило, неизвестно. В связи с этим целесообразно поставить эксперимент для оценки состояния "природы".

Предположим, что в рассматриваемом примере таким экспериментом является измерение атмосферного давления.

Пусть $$Z_1,Z_2,...,Z_{\gamma}$$ — множество возможных исходов, и известна вероятность $$P(Z/\theta)$$ каждого исхода для каждого истинного состояния природы. Допустим $$r=3$$ и примем значения вероятности $$P(Z/\theta)$$, равным приведенным в таблице 11.3.

Теперь в зависимости от результатов эксперимента можно перечислить все возможные стратегии выбора района огневых позиций. Так, например, одной из стратегий может быть следующий план: выбрать район №1 (действие $$a_1$$ ), если результат эксперимента $$Z_1$$ ; район №2 (действие $$a_2$$ ), если результат эксперимента $$Z_2$$ ; район №3, если результат эксперимента $$Z_3$$.

Каждая такая стратегия представляет систему:

$$S_e=||a_{j1},a_{j2},...,a_{jr}||$$,

где $$a_{ji}$$ — действие, предпринимаемое при наблюдении $$Z_{ji}$$

$$j$$ — номер действия $$(j=1,...,n)$$ ;

$$e$$ — номер стратегии $$(e=1,...,n^r)$$ ;

$$i$$ — номер эксперимента $$(i=1,...,r)$$.

Иными словами, стратегия – это функция, определенная на пространстве выбора эксперимента $$Z$$, значения которой суть действия $$a_j$$. Поскольку каждому исходу эксперимента соответствует $$n$$ возможных действий, при $$r$$ возможных исходных имеется $$n^r$$ возможных стратегий. Для рассматриваемого примера $$n^r=3^3=27$$ (таблица 11.4).

Из анализа таблицы видно, что некоторые из стратегий совершенно не учитывают исход эксперимента, например, $$S_1,S_{14},S_{27}$$ ; другие — учитывают в определенной степени и так далее. Однако каждая стратегия в зависимости от истинного состояния "природы" приводит к тем или иным результатам. Для вычисления этого результата с учетом эксперимента определим его вероятность $$P_i(a_j/S_e)$$ как вероятность того, что, когда истинное состояние "природы" есть $$\theta_i$$, эксперимент $$Z$$ приводит к исходу, с которым стратегия $$S_e$$ связывает действие $$a_j$$. Очевидно, что $$\sum\limits_{j=1}^n P_i(a_j/S_e)=1$$. Так, например, из описания стратегии $$S_5$$ (таблица 11.4) видно, что если результатом эксперимента будет $$Z_1$$, то выбирается действи $$a_1$$, если $$Z_2$$ или $$Z_3$$, — действие $$a_2$$. Для состояния природы $$\theta_1$$ исход эксперимента $$Z_1$$ возможен с вероятностью 0.60 (таблица 11.3), а $$Z_2$$ или $$Z_3$$ — с вероятностью 0,40. Следовательно,

$$P_1(a_1/S_5)=0,60; P_1(a_2/S_5)=0,40; P_1(a_3/S_5)=0$$.

Аналогично для состояния "природы" $$\theta_2$$ получим:

$$P_2(a_1/S_5)=0,20; P_2(a_2/S_5)=0,80; P_2(a_3/S_5)=0$$.

Теперь можно определить средние потери для каждой стратегии $$S_e$$, когда истинное состояние "природы" есть $$\theta_i$$.

Так как следствием пары $$(S_e,\theta_i)$$ являются результаты $$u_{i1},u_{i2},...,u_{in}$$, а вероятность пар "действие – состояние" $$(a_1,\theta_i),(a_2,\theta_i),…,(a_n,\theta_i)$$ равны $$P_i(a_1/S_e),P_i(a_2/S_e),...,P_i(a_n/S_e)$$, то средние потери для стратегии $$S_e$$ будут:

$$L(\theta_i,S_e)=\sum\limits_{j=1}{n}u_{ij}P_i(a_j/S_e)$$,

где $$u_{ij}$$ — потери при выборе действия $$a_j$$ и истинном состоянии "природы" $$\theta_i$$.

На основании (11.2.) можно вычислить матрицу средних потерь.

Для условий рассматриваемого примера вычисление средних потерь по формуле (11.2.) приводит к таблице 11.6.

Матрица средних потерь (табл. 11.5) представляет собой модель конфликтной ситуации при фиксированных экспериментах. В связи с этим первоначальная задача статического решения модифицируется, сводясь к выбору одной из стратегий $$S_1,S_2,...,S_{n^r}$$ для состояний "природы" $$\theta_1,\theta_2,...,\theta_m$$.

Предположим теперь, что даны априорные вероятности состояний "природы" $$P(\theta_1),P(\theta_2),...,P(\theta_m)$$. После постановки эксперимента, исход которого зависит от истинного состояния "природы", значения вероятностей состояний изменяются и по формуле Байеса будут равны

$$P(\theta_i/Z)=\frac{P(\theta_i)P(Z/theta_i)}{\sum\limits_{i=1}^m P(Z/\theta_i)P(\theta_i)}$$,

где $$P(\theta_i/Z)$$ — апостериорная вероятность состояния $$\theta_i$$ ;

$$P(Z/\theta_i)$$ — вероятность исхода $$Z$$ для истинного состояния $$\theta_i$$.

Если теперь принять, что $$P(\theta_1)=0,6$$ и $$P(\theta_2)=0,4$$, то апостериорные вероятности состояний примут значения, приведенные в таблице 11.7.

В результате приходим к первоначальной задаче оптимального выбора действия, когда вероятности состояний "природы" известны и равны $$P(\theta_1/Z),P(\theta_2/Z),...,P(\theta_m/Z)$$.

На основании этого можно определить средние потери для действия $$a_j$$ с учетом эксперимента $$Z$$ по формуле

$$L(a_j)=\sum\limits_{i=1}^m P(\theta_i/Z) u_{ij}$$,

где $$u_{ij}$$ — потери пары "действие – состояние" $$(a_j,\theta_i)$$.

Оптимальным в этом случае будет действие, дающее наименьшие потери. Для нашего примера расчеты, выполненные по формуле 11.4., сведены в таблицу 11.8.

Из таблицы 11.8 видно, что в случае исхода $$Z_1$$ оптимальным является действие a_1, исхода $$Z_2$$ — действие $$a_2$$ и исхода $$Z_3$$ — действие $$a_3$$.

Таким образом, получено правило, в соответствии с которым каждому исходу эксперимента $$Z$$ соответствует действие $$a$$, дающее минимальные потери. Это правило называется правилом Байеса относительно априорного распределения вероятностей состояний природы, а действие — байесовым. Так, для рассматриваемого примера, если исход эксперимента $$Z_1$$, байесовым действием является действие $$a_1$$, если исход $$Z_2$$ — действие $$a_2$$ и если исход $$Z_3$$ — действие $$a_3$$.

Байесовое действие входит в байесовую стратегию, которая минимизирует среднее взвешенное

$$Z(S_e)=\sum\limits_{i=1}^{m} P(\theta_i/Z)L(\theta_i,S_e)$$

и соответствует вероятности $$P(\theta_i/Z)$$.

В этом можно убедиться, если по формуле (11.4.) произвести вычисление, используя данные таблицы 11.5 – 11.7, и выбрать стратегию, для которой $$Z(S_e)$$

будет минимальным. Такой байесовой стратегией окажется $$S_6=||a_1a_2a_3||$$. Из описания стратегии $$S_6$$ видно, что если исход эксперимента $$Z_1$$, то выбирается действие $$a_1$$, если $$Z_2$$, то действие $$a_2$$, и если $$Z_3$$, то действие $$a_3$$, то есть байесовые действия.

Таким образом, задаваясь априорным распределением вероятностей состояния природы, возможно их уточнить путем постановки эксперимента и определения апостериорных вероятностей.

Теорема Байеса. Пусть $$A_1,A_2,...,A_n$$ — взаимоисключающие события. Объединение всех $$A_i$$ образует достоверное событие, полную группу событий. Тогда теорема Байеса гласит: вероятность того, что событие $$A_i$$ наступит при условии, что событие E уже наступило, определяется выражением

$$P(A_i\left|E)=\frac{P(A_i)\cdot P(E|A_i)}{P(A_1)\cdot P(E|A_1)+...+P(A_n)\cdot P(E|A_n)}\right;\\ P(A_i\left|E)=\frac{P(A_i)\cdot P(E|A_i)}{\sum\limits_{i=1}^nP(A_i)\cdot P(E|A_i)}\right$$.

Примеры

Обоснование статистических решений при нефиксированных экспериментах

В ряде случаев для обоснования решений представляется возможным провести несколько экспериментов. Очевидно, что с ростом экспериментов растет и надежность статистического решения, то есть уменьшается риск, связанный с принятием ошибочного решения. Однако постановка каждого эксперимента связана с определенным расходом средств. Более того, в ряде случаев просто нецелесообразно или невозможно провести все необходимые эксперименты для обоснования оптимального решения. Такие условия, например, складываются, когда необходимо принять партию взрывателей. Очевидно, для выбора решения, принять или не принять данную партию, можно проверить только часть взрывателей, так как проверка всей партии связана с их уничтожением.

На основании изложенного можно сформулировать следующие условия для обоснования оптимального решения при нефиксированных экспериментах.

Имеются некоторые действия $$a_1,a_2,...,a_n$$ и состояния "природы" $$\theta_1,\theta_2,...,\theta_m$$. Требуется выбрать действие, которое соответствует истинному состоянию природы на основе оценки результатов эксперимента $$Z^{(1)}$$ из одного наблюдения, $$Z^{(2)}$$ из двух наблюдений, в котором $$Z^{(1)}$$ повторяется дважды,…, $$Z^{(k)}$$ из $$k$$ наблюдений, в котором $$Z^{(1)}$$ повторяется $$k$$ раз.

Затем определяется множество стратегий (правил решения) $$S$$. Любая стратегия из этого множества должна однозначно указывать до начала эксперимента, что нужно сделать на каждом этапе экспериментирования в зависимости от имеющейся информации. Каждому возможному исходу, обусловленному стратегией, присваивается показатель эффективности. Такой показатель должен учитывать стоимость данного исхода и потери, вызванные неправильными решениями. Вычисляется также и вероятность каждого исхода для истинного состояния "природы" $$\theta_i$$ и стратегии $$S_e$$. Кроме того, для каждого состояния и каждой стратегии вычисляются потери или выигрыши, связанные с парами ("исход – состояние"), которые взвешены согласно вероятностям, вычисленным в предположении наличия данного состояния "природы". В результате каждая стратегия оценивается величинами средних потерь.

Обоснование статистических решений без постановки экспериментов

В жизни нередко складываются ситуации, когда необходимо принимать решение при отсутствии как полного и точного знания обстановки, так и возможности получения какой-либо дополнительной информации. С подобной неопределенностью мы уже сталкивались, рассматривая обоснование решений методами теории игр. Однако тогда неопределенность создавалась за счет скрытности выбора, осуществляемого противником. В результате этого (по крайней мере в антагонистических играх двух лиц) всегда можно предсказать поведение второго игрока, который стремится сделать все зависящее от него для противодействия первому игроку. Особенность же рассматриваемой неопределенности состоит в том, что второй игрок не является, строго говоря, противником. Часто таким вторым игроком оказывается "природа", и поэтому соответствующие задачи выбора оптимального способа действий с помощью теории статистических решений иногда называют играми против природы. С этой точки зрения эта часть теории статистических решений имеет дело с так называемым случаем полного незнания, то есть такого случая, когда игрок, принимающий то или иное решение, не располагает никакими сведениями о конкретном состоянии природы. Если же игрок располагает даже небольшой информацией, скажем, полученной при том или ином эксперименте, то условия полного незнания оказываются нарушенными, и следует обратиться к вышеизложенным положениям теории статистических решений. Однако было бы ошибочно полагать, что случай полного незнания исключает наличие всякой информации. Здесь так же, как и в теории игр, необходим такой объем информации об обстановке, который позволяет построить матрицу игр, то есть считается, что игрок знает все стратегии, которые он может использовать сам, и стратегии (состояния) "природы". Кроме того, предполагается, что игрок знает все элементы матрицы эффективности.

Таким образом, единственное, но весьма существенное различие между проблемами теории игр и теории статических решений состоит в том, что "природа" в отличие от разумного игрока характеризуется стихийностью, а не сознательностью выбора. Иными словами, "природа" выбирает то или иное состояние без какого-либо намерения помешать игроку достичь своей цели наилучшим образом. Это различие нельзя переоценить, так как оно ( в отличие от теории игр) приводит к нескольким конкурирующим критериям оптимальности, используемым в теории статистических решений.