Обобщения и применения модели Хопфилда

Модификации правила Хэбба

Ограничения емкости синаптической памяти, а также проблема ложной памяти классической нейронной сети в модели Хопфилда, обученной по правилу Хебба, привели к появлению целого ряда исследований, целью которых было снятие этих ограничений. При этом главный упор делался на модификацию правил обучения.

Матрица Хебба с ортогонализацией образов

На предыдущей лекции было установлено, что ортогональность образов обучающей выборки является весьма благоприятным обстоятельством, так как в этом случае можно показать их устойчивое сохранение в памяти. При точной ортогональности достигается максимальная емкость памяти, равная $$N$$ — максимально возможному числу ортогональных образов из $$N$$ компонент.

На этом свойстве ортогональных образов и основан один из наиболее часто используемых способов улучшения правила Хебба: перед запоминанием в нейронной сети исходные образы следует ортогонализовать. Процедура ортогонализации приводит к новому виду матрицы памяти:

$$W_{ij}=\sum_{\alpha,\mu}\xi_i^{(\alpha)}\xi_j^{(\beta)}B_{\alpha\mu}^{1},$$

где $$B^{-1}$$ — матрица, обратная к матрице $$B$$:

$$B_{\alpha\mu}=\sum_i\xi_i^{(\alpha)}\xi_i^{(\mu)}.$$

Такая форма матрицы памяти обеспечивает воспроизведение любого набора из $$p<N$$ образов. Однако существенным недостатком этого метода является его нелокальность: обучение связи между двумя нейронами требует знания состояний всех других нейронов. Кроме того, прежде чем начать обучение, необходимо заранее знать все обучающие образы. Добавление нового образа требует полного переобучения сети. Поэтому данный подход весьма далек от исходных биологических оснований сети Хопфилда —Хебба, хотя на практике приводит к заметным улучшениям ее функционирования.

Отказ от симметрии синапсов

Другим подходом для улучшения правила Хебба является отказ от симметрии синаптических соединений. Матрица памяти может выбираться в следующей форме:

$$W_{ij}=\left(\sum_\alpha\xi_i^{(\alpha)}\xi_j^{(\alpha)}\right)\cdot (1-P_{ij}).$$

Элементы матрицы $$P_{ij}$$ из множества $$\{0,1\}$$ управляют наличием или отсутствием связи от нейрона $$i$$ к нейрону $$j.$$

Увеличение емкости памяти в этой модели в принципе может быть достигнуто за счет появления новых степеней свободы, связанных с матрицей $$P.$$ В общем случае, однако, трудно предложить алгоритм выбора этой матрицы. Следует также отметить, что динамическая система с несимметричной матрицей не обязана быть устойчивой.

Алгоритмы разобучения (забывания)

Возможность забывания ненужной, лишней информации является одним из замечательных свойств биологической памяти. Идея приложения этого свойства к искусственной нейросети Хопфилда "удивительно" проста: при запоминании образов обучающей выборки вместе с ними запоминаются и ложные образы. Их-то и следует "забыть".

Соответствующие алгоритмы получили название алгоритмов разобучения. Суть их сводится к следующему.

На первой фазе происходит обучение сети по стандартному правилу Хебба. Память наполняется истинными образами и множеством ложной информации. На следующей фазе (фазе разобучения) сети предъявляется некоторый (случайный) образ $$\lambda^{(0)}.$$ Сеть эволюционирует от состояния $$\lambda^{(0)}$$ к некоторому состоянию $$\lambda^{(f)}$$, которое при большом объеме обучающей выборки чаще всего оказывается ложным. Теперь матрица связей может быть поправлена, с целью уменьшить глубину минимума энергии, отвечающего этому ложному состоянию:

$$w_{ij}(t+1)=w_{ij}(t)-\varepsilon\cdot \lambda_i^{(f)}\lambda_j^{(f)}.$$

В качестве степени забывания $$\varepsilon$$ выбирается некоторое малое число, что гарантирует незначительное ухудшение полезной памяти, если состояние $$\lambda^{(f)}$$ не окажется ложным. После нескольких "сеансов забывания" свойства сети улучшаются.

Данная процедура пока не имеет формального теоретического обоснования, однако на практике приводит к более регулярной энергетической поверхности нейронной сети и к увеличению объема бассейнов притяжения полезных образов.

Непрерывные системы

На предыдущей лекции была рассмотрена классическая модель Хопфилда с двоичными нейронами. Изменение состояний нейронов во времени описывалось детерминированными правилами, которые в заданный момент времени однозначно определяли степень возбуждения всех нейронов сети.

Хопфилд рассматривал модели с непрерывной активационной функцией $$F$$, точнее моделирующей биологический нейрон. В общем случае это $$S$$ -образная или логистическая функция

$$F(x)=\frac{1}{1+\exp(-\lambda NET)},$$

где $$\lambda$$ — коэффициент, определяющий крутизну сигмоидальной функции. Если $$\lambda$$ велико, $$F$$ приближается к описанной ранее пороговой функции. Небольшие значения $$\lambda$$ дают более пологий наклон.

Как и для бинарных систем, устойчивость гарантируется, если веса симметричны, т.е. $$w_{ij} = w_{ji}$$ и $$w_{ii} = 0$$ при всех $$i.$$ Функция энергии, доказывающая устойчивость подобных систем, сконструирована, но она не рассматривается здесь из-за своего концептуального сходства с дискретным случаем.

Если $$\lambda$$ велико, непрерывные системы функционируют подобно дискретным бинарным системам, окончательно стабилизируясь со всеми выходами, близкими нулю или единице, т. е. в вершине единичного гиперкуба. С уменьшением $$\lambda$$ устойчивые точки удаляются от вершин, последовательно исчезая по мере приближения $$\lambda$$ к нулю. На рис. 9.1 показаны линии энергетических уровней непрерывной системы с двумя нейронами.

(рис 9.1)

Сети Хопфилда и машина Больцмана

Недостатком сетей Хопфилда является их тенденция стабилизироваться в локальном, а не в глобальном минимуме функции энергии. Эта трудность преодолевается в основном с помощью класса сетей, известных под названием машин Больцмана, в которых изменения состояний нейронов обусловлены статистическими, а не детерминированными закономерностями. Существует тесная аналогия между этими методами и отжигом металла, поэтому и сами методы часто называют имитацией отжига.

Термодинамические системы

Металл отжигают, нагревая его до температуры, превышающей точку его плавления, а затем давая ему медленно остыть. При высоких температурах атомы, обладая высокими энергиями и свободой перемещения, случайным образом принимают все возможные конфигурации. При постепенном снижении температуры энергии атомов уменьшаются, и система в целом стремится принять конфигурацию с минимальной энергией. Когда охлаждение завершено, достигается состояние глобального минимума энергии.

При фиксированной температуре распределение энергий системы определяется вероятностным фактором Больцмана

$$\exp(-E/kT),$$

где $$E$$ — энергия системы; $$k$$ — постоянная Больцмана; $$T$$ — температура.

Отсюда очевидно: имеется конечная вероятность того, что система обладает высокой энергией даже при низких температурах. Сходным образом имеется небольшая, но вычисляемая вероятность, что чайник с водой на огне замерзнет, прежде чем закипит.

Статистическое распределение энергий позволяет системе выходить из локальных минимумов энергии. В то же время, вероятность высокоэнергетических состояний быстро уменьшается со снижением температуры. Следовательно, при низких температурах имеется сильная тенденция занять низкоэнергетическое состояние.

Статистические сети Хопфилда

Если правила изменения состояний для бинарной сети Хопфилда заданы статистически, а не детерминированно, то возникает система, имитирующая отжиг. Для ее реализации вводится вероятность изменения веса как функция от величины, на которую выход нейрона OUT превышает его порог. Пусть

$$E_k=NET_k-\theta_k,$$

где $$NET_k$$ — выход NET нейрона $$k$$ ; $$\theta$$ — порог нейрона $$k$$, и

$$p_k=\frac{1}{1+\exp(-\delta E_k/T)},$$

(отметим вероятностную функцию Больцмана в знаменателе), где $$T$$ — искусственная температура.

В стадии функционирования искусственной температуре $$T$$ приписывается большое значение, нейроны устанавливаются в начальном состоянии, определяемом входным вектором, и сеть имеет возможность искать минимум энергии в соответствии с нижеследующей процедурой:

Приписать состоянию каждого нейрона с вероятностью $$p_k$$ значение единица, а с вероятностью $$1-p_k$$ — нуль.

Постепенно уменьшать искусственную температуру и повторять шаг 1, пока не будет достигнуто равновесие.

Обобщенные сети

Принцип машины Больцмана может быть перенесен на сети практически любой конфигурации, но без гарантированной устойчивости. Достаточно выбрать одно множество нейронов в качестве входов и другое множество в качестве выходов, затем придать входному множеству значения входного вектора и предоставить сети возможность релаксировать в соответствии с описанными выше правилами 1 и 2.

Процедура обучения для такой сети состоит из следующих шагов:

Вычислить закрепленные вероятности:

а) придать входным и выходным нейронам значения обучающего вектора;

б) предоставить сети возможность искать равновесие;

в) записать выходные значения для всех нейронов;

г) повторить шаги от а до в для всех обучающих векторов;

д) вычислить вероятность $$P_{ij}^+$$, т. е. по всему множеству обучающих векторов вычислить вероятность того, что значения обоих нейронов равны единице.

Вычислить незакрепленные вероятности:

а) предоставить сети возможность "свободного движения" без закрепления входов или выходов, начав со случайного состояния;

б) повторить шаг 2а много раз, регистрируя значения всех нейронов;

в) вычислить вероятность $$P_{ij}^-$$, т. е. вероятность того, что значения обоих нейронов равны единице.

Скорректировать веса сети следующим образом:

$$\delta w_{ij}=\eta (P_{ij}^+-P_{ij}^-)$$,

где $$\delta w_{ij}$$ — изменение веса $$w_{ij}$$, $$\eta$$ — коэффициент скорости обучения.

Приложения

Аналого-цифровой преобразователь

Рассмотрим электрическую схему, которая основана на сети с обратной связью и реализует четырехбитовый аналого-цифровой преобразователь. На рис. 9.2 показана блок-схема этого устройства с усилителями, выполняющими роль искусственных нейронов. Сопротивления, выполняющие роль весов, соединяют выход каждого нейрона с входами всех остальных. Чтобы удовлетворить условию устойчивости, выход нейрона не соединялся сопротивлением с его собственным входом, а веса брались симметричными, т. е. сопротивление от выхода нейрона $$i$$ к входу нейрона $$j$$ имело ту же величину, что и сопротивление от выхода нейрона $$j$$ к входу нейрона $$i.$$

Заметим, что усилители имеют прямой и инвертированный выходы. Это позволяет с помощью обычных положительных сопротивлений реализовывать и те случаи, когда веса должны быть отрицательными. На рис. 9.2 показаны все возможные сопротивления, при этом никогда не возникает необходимости присоединять как прямой, так и инвертированный выходы нейрона к входу другого нейрона.

(рис 9.2)

В реальной системе каждый усилитель обладает конечным входным сопротивлением и входной емкостью, что должно учитываться при расчете динамических характеристик. Для устойчивости сети не требуется равенства этих параметров для всех усилителей и их симметричности. Так как эти параметры влияют лишь на затраченное для получения решения время, а не на само решение, для упрощения анализа они исключены.

Предполагается, что используется пороговая функция (предел сигмоидальной функции при $$\lambda$$, стремящемся к бесконечности). Далее, все выходы изменяются в начале дискретных интервалов времени, называемых эпохами. В начале каждой эпохи исследуется сумма входов каждого нейрона. Если она больше порога, выход принимает единичное значение, если меньше — нулевое. На протяжении эпохи выходы нейронов не изменяются.

Целью является такой выбор сопротивлений (весов), чтобы непрерывно растущее напряжение $$X$$, приложенное к одновходовому терминалу, порождало множество из четырех выходов, представляющих двоичную запись числа, величина которого приближенно равна входному напряжению (см. рис. 9.3). Определим сначала функцию энергии следующим образом:

$$E=-\frac12\left(X-\sum_j 2^j OUT_j\right)^2+ \sum_j 2^{2j-1}OUT_j(1-OUT_j),$$

где $$X$$ — входное напряжение.

Когда $$E$$ минимизировано, то получаются нужные выходы. Первое выражение в скобках минимизируется, когда двоичное число, образованное выходами, наиболее близко (в среднеквадратичном смысле) к аналоговой величине входа $$X.$$ Второе выражение в скобках обращается в нуль, когда все выходы равны 1 или 0, тем самым накладывая ограничение, что выходы принимают только двоичные значения.

Если данное уравнение перегруппировать, то получим следующее выражение для весов:

$$W_{ij}=-2^{i+j},\quad y_i=2^i,$$

где $$w_{ij}$$ — проводимость (величина, обратная сопротивлению) от выхода нейрона $$i$$ к входу нейрона $$j$$ (равная также проводимости от выхода нейрона $$j$$ к входу нейрона $$i$$ ); $$y_i$$ — проводимость от входа $$X$$ к входу нейрона $$i.$$ Чтобы получить схему с приемлемыми значениями сопротивлений и потребляемой мощности, все веса должны быть промасштабированы.

(рис 9.3)

Идеальная выходная характеристика, изображенная на рис. 9.3, будет реализована лишь в том случае, если входы устанавливаются в нуль перед выполнением преобразования. Если этого не делать, сеть может попасть в локальный минимум энергии и дать неверный выход.