Новосибирский Государственный Университет
Опубликован: 13.09.2006 | Доступ: платный | Студентов: 31 / 3 | Оценка: 4.52 / 4.28 | Длительность: 12:23:00
ISBN: 978-5-9556-0063-5
Специальности: Программист
Лекция 4:

Задача нелинейного разделения двух классов

< Лекция 3 || Лекция 4: 1234 || Лекция 5 >
Аннотация: Рассматриваются: решение задачи нелинейного разделения двух классов методом максимума правдоподобия и многослойной сетью, реализация булевых функций посредством нейронной сети.

Метод максимума правдоподобия

Рассмотрим задачу разделения двух классов, с каждым из которых связано вероятностное распределение в пространстве векторов x значений признаков. Будем обозначать плотности этих распределений P(x|C_i), i = 1,2, C_i - событие, состоящее в том, что объект принадлежит { i }-му классу. Нас интересует апостериорная вероятность: P(C_i|x)вероятность принадлежности объекта к { i }-му классу при условии, что он характеризуется вектором признаков x. Известная из теории вероятности формула Байеса дает

P(C_i|x) = P(C_i)P(x|C_i)/ \sum_{j} P(C_j)P(x|C_j)

где P(C_i)вероятность появления объектов { i }-го класса. Для нормальных k -мерных распределений

P(x|Ci) = 1/ \{(2\pi )^{k/2}({det \sum}^i)^{1/2}exp [-\frac{1}{2}(x -  M^i),
 ( {\sum}^i)^{-1}(x - M^i)]\},

где M^i — математическое ожидание x в { i }-м классе, { \sum^i } — ковариационная матрица для { i }-го класса. В результате обработки данных находят статистические оценки { \sum^i } и M^i: пусть для { i }-го класса имеются векторы x^1 \ldots x^r, тогда полагаем

M^i = ( \sum^r_{j=1} x^j)/r,  ( {\sum}^i)_{pq} =
\frac{1}{r} \sum^r_{j=1} (x_p^j  - M_p^i) (x_q^j -  M_q^i).

Минимизация в формуле Байеса дает простое решающее правило: x принадлежит i -му классу, если P(C_i|x) > P(C_j|x) для всех j\neq i, т.е выбирается такой класс, для которого вероятность P(C_i|x) максимальна. Поскольку в формуле Байеса для всех C_i знаменатель общий, то решающее правило приобретает следующий вид: выбираем то i, для которого P(C_i)P(x|C_i) максимально. Для нормального распределения удобно прологарифмировать эту величину. Окончательно получаем:

x принадлежит i -му классу, если среди величин

P_j = ln P(C_j) -  (ln det {\sum}^j)/2  - [({x  - M^j}), ({\sum}^j)^{-1}(x
-  M^j)]/2

величина P_i - максимальная. Таким образом, разделяющей является поверхность второго порядка, а операцию разделения на два класса выполняет квадратичный адаптивный сумматор в комбинации с пороговым нелинейным элементом. Пороговый элемент вычисляет ступенчатую функцию f(P_1 - P_2), в результате для первого класса получим ответ 1, для второго - 0.

Нейрофизиологическая аналогия

Идея использования НС с квадратичными сумматорами для улучшения способности сети к обобщению базируется на хорошо известном факте индукции в естественных НС, когда возбуждение в одних областях мозга влияет на возбуждение в других. Простейшей формализацией этого является введение коэффициента, пропорционального сигналу от j -го нейрона, в величину веса i -го сигнала k -го нейрона. Снабдив такое произведение весом q_{ij} — "коэффициентом индукции", получим рассматриваемую архитектуру

y = f[Q(x) + L(x) + P],

где Q(x) и L(x) - соответственно квадратичная и линейная функция, P
= const, f - функция активации нейрона. Коэффициенты функций Q, L и константа P являются подстроечными параметрами, определяющимися в ходе обучения.

< Лекция 3 || Лекция 4: 1234 || Лекция 5 >
Ирина Ткаченко
Ирина Ткаченко
Россия, Москва
Николай Ткаченко
Николай Ткаченко
Россия