Минимаксные критерии для задач с неизвестным априорным распределением

Рассмотрим случай, когда статистик руководствуется оценкой априорного распределения (17.6), задаваемой вероятностью $$\zeta'$$ из некоторого подынтервала $$[\zeta_i, \zeta_{i+1})$$. Если при этом истинному распределению соответствует значение $$\zeta''$$ из того же подинтервала $$[\zeta_i, \zeta_{i+1})$$, то ожидаемые потери $$\rho_i(\zeta'')$$, определяемые функцией (18.26), совпадают с байесовским риском, поскольку значениям $$\zeta'$$ и $$\zeta''$$ соответствует одна и та же критическая область Q1(i) из (18.17).

Возможно, однако, что истинное значение $$\zeta''$$ вероятности появления первого состояния природы принадлежит другому интервалу $$[\zeta_j, \zeta_{j+1})$$, $$j \ne i$$. Тогда байесовскому критерию относительно этого распределения соответствует другая критическая область Q1(j) из (18.17) и, следовательно, байесовский риск $$\rho(\zeta'')$$ определяется выражением (18.21) при других вероятностях ошибок первого и второго рода. Поэтому может случиться, что ожидаемые потери $$\rho_i(\zeta'')$$ окажутся значительно больше потерь $$\rho_j(\zeta'')$$, соответствующих байесовскому риску. Более того, они могут оказаться выше, чем максимально возможный байесовский риск $$\rho^\circ$$ из (18.27). Именно такой случай представлен на рис. 4.4.

Поэтому в случае неизвестного априорного распределения для состояний природы, целесообразно использовать минимаксную стратегию, которая гарантирует уровень ожидаемых потерь, не превышающий значения $$\rho^\circ$$ из (18.27).

В рассматриваемом классе задач такая стратегия может быть построена как случайная смесь двух чистых стратегий. Эти чистые стратегии задаются критическими областями Q1(i-1) и Q1(i). При этом номер i соответствует точке $$\zeta_i$$, в которой достигается максимум функции $$\rho(\zeta)$$, т.е. $$\zeta_i = \zeta^\circ$$. Указанным областям Q1(i-1) и Q1(i) соответствуют функции $$\rho_{i-1}(\zeta)$$ и $$\rho_i(\zeta)$$ из (18.26), удовлетворяющие условиям$$\rho_{i-1}(\zeta^\circ) = \rho_i(\zeta^\circ) = \rho^\circ,$$ $$\beta_{i-1} - w \alpha_{i-1} > 0 > \beta_i - w \alpha_i.$$

Пусть критическая область Q1(i-1) используется с вероятностью $$\gamma$$, а область Q1(i) - с вероятностью $$1- \gamma$$ $$(0\le \gamma \le 1)$$. Тогда ожидаемые потери статистика определяются взвешенной суммой$$E(\zeta, \gamma) = \gamma\rho_{i-1}(\zeta) + (1 - \gamma)\rho_i(\zeta).$$ В силу (19.1) и 19.2, существует значение $$\gamma^\circ$$, $$0 < \gamma^\circ < 1$$, обеспечивающее выполнение равенств$$E(\zeta, \gamma^\circ) = \rho^\circ,\quad 0 \le \zeta \le 1.$$ Следовательно, смешанная стратегия, определенная значением $$\gamma^\circ$$ из (19.4), является минимаксной стратегией статистика.

Подставим правую часть выражения (18.26) во взвешенную сумму (19.3). В полученном выражении приравняем к нулю коэффициент при $$\zeta$$ и из этого равенства выведем формулу для значения вероятности $$\gamma^\circ$$, удовлетворяющего условию (19.4):$$\gamma^\circ = \frac{w \alpha_i - \beta_i}{p_1(z_i) + wp_2(z_i)}.$$

При этом$$\rho^\circ = w[\alpha_i - \gamma^\circ p_2(z_i)].$$

В качестве иллюстрации укажем, что для функции байесовских потерь, представленной на рис. 4.4, условие (19.2) выполняется для значения i=3 и, согласно (19.5) и (19.6), имеют место оценки $$\gamma^\circ = 0{,}5$$ и $$\rho^\circ = 0{,}2$$. Следовательно, минимаксная стратегия для примера, характеризуемого данными из табл. 4.4, обеспечивается равновероятным использованием критических областей Q1(2)={z1,z2}, и Q1(3)= {z1,z2,z3}.

Замечание 4.4. Поскольку $$Q_1(i-1) \subset Q_1(i)$$, то попадание выборочной точки z в критическую область Q1(i-1) ведет к отвержению нуль-гипотезы независимо от того, какой из двух критериев будет выбран рулеткой, соответствующей рассмотренной смешанной стратегии. Принятие нуль-гипотезы при появлении любого исхода zj, $$i < j\le N$$, также не зависит от результата случайного выбора критериев. Случайный выбор оказывается существенным лишь в случае, когда исходом испытания является значение zi, поскольку $$z_i \not\in Q_1(i-1)$$ и $$z_i \in Q_1(i)$$.

Поэтому естественно задавать процедуру случайного выбора с помощью набора условных распределений вида$$\eta_z = (\eta(1/z), \eta(2/z)) \in S_2,\quad z \in Z,$$ где $$\eta(1/z)$$ есть вероятность отвержения нуль-гипотезы после наблюдения выборочной точки $$z$$, а $$\eta(2/z)$$ есть вероятность ее принятия при том же условии. При этом набор (19.7) условных распределений $$\eta_z$$, обеспечивающий реализацию указанной процедуры, определяется следующими условиями (эти условия гарантируют тот же уровень ожидаемых потерь, что и рассмотренная выше минимаксная стратегия ):$$\eta(1/z_j) = \left\{ \begin{aligned} 1, 1 \le j < i,\\ 1-\gamma^\circ, i=j,\\ 0, i < j \le N, \end{aligned} \right.\qquad \eta(2/z_j) = \left\{ \begin{aligned} 0, 1 \le j < i,\\ \gamma^\circ, i=j,\\ 1, i < j \le N, \end{aligned} \right.$$

Как следует из вида распределений (19.8), фактический запуск случайного механизма необходим лишь в тех случаях, когда исход испытания совпадает с единственным значением zi.

Отметим еще одно обстоятельство. Как следует из (17.18) и (17.20), байесовское решение относительно любого заданного распределения $$\xi$$ достижимо в классе чистых стратегий $$d\in D$$. В случае, когда одна из функций $$\rho_i(\zeta)$$ из (18.26) удовлетворяет условию $$\beta_i = w \al_i$$ и, следовательноРавенства (19.9) являются следствием вогнутости функции байесовского риска.,$$\rho_i(\zeta) = \rho^\circ,\quad 0 \le \zeta \le 1,$$ критерий, определяемый критической областью $$Q_1(i)$$, является чистой минимаксной стратегией статистика. Однако, в общем случае, условия (19,9) могут не иметь места. Тогда минимаксная стратегия статистика реализуема лишь в классе процедур, использующих случайные механизмы выбора.

Проверка по отношению правдоподобия в случае трех решений

Во многих задачах выбора решений в условиях неопределенности окончательному выбору могут предшествовать несколько стадий оценки текущего состояния природы. При этом на последующих стадиях применяются более точные (и обычно более дорогие) схемы проведения испытаний.

Ограничим наше рассмотрение случаем, когда возможны лишь две такие стадии. При этом начальная стадия включает проведение некоторого испытания и принятие (на основании полученных результатов) одного из трех решений. Первые два решения соответствуют выбору одной из двух простых гипотез. Третий вариант предполагает проведение дополнительных испытаний, завершающихся окончательным выбором гипотезы. Примем, что реализация третьего варианта передается другому исполнителю. Ожидаемые потери для этого случая будем считать известными.

Таким образом, мы рассматриваем операцию, в которой m=2, $${n = 3}$$ и матрица потерь задана коэффициентами из табл. 4.5.

При этом, согласно (17.9)-(17.11) и (17.16), значения апостериорного риска $$\rho(\zeta_z, a)$$, соответствующие решению a=d(z), определяются следующими формулами:$$\rho(\xi_z, 1) = \frac{(1 - \zeta) w_{21}p_2(z)}{p(z)},$$ $$\rho(\xi_z,2) = \frac{\zeta w_{12}p_1(z)}{p(z)},$$ $$\rho(\xi_z,3) = \frac{\zeta w_{13} p_1(z) + (1- \zeta)w_{23} p_2(z)}{p(z)},$$ где p(z) из (17.11) и $$\xi$$ из (18.2). Далее, в соответствии с (17.20), байесовское решение $$a_z = d_\xi(z)$$ определяется условиями:$$\rho(\xi_z,1) < \rho(\xi_z,2),\ \rho(\xi_z,1) < \rho(\xi_z,3) \to a_z = 1,\\ \rho(\xi_z,2) \le \rho(\xi_z,1),\ \rho(\xi_z,2) < \rho(\xi_z,3) \to a_z = 2,\\ \rho(\xi_z,3) \le \rho(\xi_z,1),\ \rho(\xi_z,3) < \rho(\xi_z,2) \to a_z = 3, }$$ Эти условия (после подстановки в них правых частей из выражений (9.10)-(9.12)) преобразуются к виду:$$R(z) < c_1,\ R(z) < c_3 \to a_z = 1,$$ $$R(z) \ge c_3,\ R(z) > c_2 \to a_z =2,$$ $$c_1 \le R(z) \le c_2 \to a_z = 3,$$ где$$c_1 = \frac{\zeta w_{13}}{(1 - \zeta)(w_{21} - w_{23})},$$ $$c_2 = \frac{\zeta(w_{12} - w_{13})}{(1 - \zeta)w_{23}},$$ $$c_3 = \frac{\zeta w_{12}}{(1- \zeta)w_{21}}.$$ и символ R(z) соответствует отношению правдоподобия, т.е.$$R(z) = \frac{p_2(z)}{p_1(z)}.$$

Заметим, что применимость третьего решения предполагает выполнение условия $$c_1\le c_2$$, которое эквивалентно следующему неравенству для коэффициентов матрицы потерь:$$w_{12} w_{21} \ge w_{13} w_{21} + w_{12} w_{23}.$$ Условимся, что неравенство (19.17) является справедливым.

Тогда неравенства c1<c3<c2 также являются справедливыми, что устанавливается непосредственной проверкой. Поэтому в условиях (19.13) достаточно выполнения лишь первого неравенства, а в условиях (19.14) - второго неравенства.

Таким образом, в рассмотренном случае ( m=2, n=3 ) байесовский критерий $$d_\xi$$ сводится к следующей модификации проверки по отношению правдоподобия:$$\frac{p_2(z)}{p_1(z)} \in I_a \to d_\xi(z) = a,$$ где$$I_1 = [0, c_1),\quad I_2 = (c_2,\infty),\quad I_3 = [c_1, c_2]$$ и c1, c2 соответственно из (19.15), (19.16).