НОУ ИНТУИТ | Нейрокомпьютерные системы. Лекция 10: Рекуррентные сети как ассоциативные запоминающие устройства

Учитесь и получайте официальные документы БЕСПЛАТНО. Вы можете поддержать наш проект.

Регистрация Вход

Твой путь к знаниям!

|

Вам нравится? Нравится 20 студентам

| Поделиться |

Поддержать программу

Автоассоциативная сеть Хопфилда

Структура сети Хопфилда представляется в виде системы с непосредственной обратной связью выхода со входом (рис. 1). Выходные сигналы нейронов являются одновременно входными сигналами сети: ${x_i(k)=y_i(k-1)}$ . В классической сети Хопфилда отсутствует автосвязь (связь выхода нейрона с его собственным входом), что соответствует $w_{ii}=0$ , а матрица весов является симметричной: W=W^T . Отсутствие автосвязи и симметричность матрицы весов являются достаточными (но не необходимыми!) условиями сходимости итерационных (переходных) процессов в сети Хопфилда.

Далее в данной лекции предполагаем, что каждый нейрон имеет биполярную ступенчатую функцию активации со значениями $\pm 1$ . Это означает, что выходной сигнал -го нейрона определяется функцией

$\begin{align*} y_i=\mathop{\rm sgn}(\sum_{j=0,N} w_{ij}x_j+b_i) \end{align*}$

где обозначает количество нейронов, N=n .

Далее допустим, что порог срабатывания является компонентой вектора . Тогда основную зависимость, определяющую сеть Хопфилда, можно представить в виде

$\begin{equation} y_i(k)=\mathop{\rm sgn}(\sum_{j=0,N} w_{ij}y_j(k-1)) \end{equation}$

( 1)

с начальным условием y_j(0)=x_j .

В процессе функционирования сети Хопфилда можно выделить два режима: обучения и классификации. В режиме обучения на основе известных векторов подбираются весовые коэффициенты сети. В режиме классификации при фиксированных значениях весов и вводе конкретного начального состояния нейронов возникает переходный процесс вида (1), завершающийся в одном из локальных минимумов, для которого y(k)=y(k-1) .