Автомат для запоминания и воспроизведения временных последовательностей

Иногда применительно к мозгу или каким-то моделям говорят об ассоциациях по смежности во времени. Смежность во времени относится к двум событиям и предполагает появление этих событий последовательно и непосредственно одного за другим. В частности, ассоциации по смежности во времени, так называемые "фазовые последовательности", рассматриваются в модели Хебба [20]. Такого же рода ассоциации происходят в описанной выше $$А$$ -сети. Об определенной логической ограниченности и в то же время безусловной полезности парных ассоциаций по времени уже говорилось.

В дальнейшем рассматривается другая схема, когда возникает несколько событий и каждое из них в качестве одной из характеристик имеет время своего появления. Задачей является распознавание и "экстраполяция" во времени совокупности таких событий с учетом информации о времени их появления. Ниже приводится упрощенный вариант, соответствующий часто встречающемуся случаю, при котором события появляются одно за другим равномерно во времени. Этот вариант соответствует, например, случаю, когда на входе системы появляются и должны распознаваться состоящие из произносимых фонем слова.

Рассматривается также возможность реализации этой схемы в двухслойной нейронной $$А$$ -сети. В дальнейшем говорится об одноуровневых временных последовательностях, поскольку описывается процесс, основанный на взаимодействии между элементами только одного любого уровня иерархической модели, например, уровня букв (фонем), уровня слогов или уровня слов. Такое упрощение позволяет сделать некоторые количественные оценки, которые могут оказаться полезными при переходе к более сложной многоуровневой схеме. Кроме того, возможно, что некоторые результаты могут иметь самостоятельное значение. Приводимые ниже результаты относятся к некоторому формальному автомату, логическая связь которого с описанными процессами в моделируемых нейронных $$А$$ -сетях будет рассмотрена ниже.

Задача

Пусть имеется алфавит $$\{а\}$$ с конечным числом символов $$а_1,а_2,\ldots a_n$$. В экспериментах использовались буквы русского алфавита и цифры. Однако это не принципиально - алфавит может включать любые символы.

При обучении на вход автомата последовательно подаются символы алфавита из произвольных фиксированных выборок. Это могут быть как отрывки текстов, так и случайные последовательности символов. После обучения на вход автомата последовательно подаются эти же или другие выборки символов. Автомат в каждый момент должен предсказывать, какой символ появится на его входе, т. е. оценивать вероятности появления на входе различных символов.

Вероятность "предсказания" автоматом появления на его входе символа $$а_i $$ должна находиться в прямой зависимости от того, насколько близко совпадает текущая предыстория работы автомата и предыстория его работы, предшествовавшая появлению символа $$а_i$$ в обучающей последовательности. Например, если в обучающей последовательности выделить отрезок в несколько символов, после которого следует обычно символ $$а_i$$ и подать этот отрезок на вход обученного автомата, то вероятность "вспомнить" символ $$а_i$$ в автомате должна быть больше, чем вероятность вспомнить любой другой символ.

Ниже описывается логическая схема такого автомата, даются оценки соответствующих вероятностей и приводятся результаты некоторых экспериментов.

Конечно, поставленную задачу можно более или менее просто решать на вычислительной машине "в лоб" - запомнить все обучающие последовательности и сравнивать путем перебора текущий отрезок входной последовательности со всеми аналогичными отрезками обучающих выборок. Например, если речь идет о словах, можно, используя словарь, предсказывать варианты окончания слова по его началу. Такое предсказание может оказаться полезным в распознающем читающем автомате. Однако подобная схема нас не устраивает по двум причинам. Во-первых, не хочется формулировать какие-либо обязательные требования к точности совпадения предыстории. Во-вторых, во многом определяющей является возможность реализации автомата в нейронной модели.

Схема автомата

На вход автомата могут подаваться символы из алфавита я $$а_1,а_2,\ldots a_n$$. Автомат имеет $$n$$ элементов по числу символов алфавита $$b_1,b_2,\ldots b_n$$. Все изменения в автомате происходят в дискретные моменты времени - такты. Интервал между тактами равен постоянной величине задержки между подачей на вход автомата смежных символов входного алфавита. Элементы $$b_i$$ могут находиться в одном из двух состояний - возбужденном и невозбужденном. В каждом такте в возбужденном состоянии может находиться только один элемент. Между символами $$а_i $$ и элементами $$b_i$$ имеется однозначное соответствие.

Элемент автомата $$b_i$$ возбуждается в двух случаях: если на вход автомата подан соответствующий символ входного алфавита $$а_i$$ либо тогда, когда на входе автомата нет символов и некоторая величина $$\sum g_i$$ у элемента $$b_i$$ больше, чем аналогичные величины у других элементов. Если несколько элементов имеют равные максимальные значения величины $$\sum g$$ то возбуждается один из них случайным выбором.

От каждого элемента $$b_i$$ на каждый $$b_j$$ в том числе и на себя $$(i = j)$$, имеется по $$m$$ связей с задержками $$S_{ij1}, S_{ij2},\ldots S_{ijm}$$ (рис. 14.1). Величина времени задержки связи в тактах $$t_k$$ равна номеру связи. Каждая связь имеет свой вес $$q$$ Возможны два варианта задания весов связей. В основном рассматриваемом ниже варианте вес каждой связи может принимать только два значения - 0 и 1. Во втором варианте веса связей могут изменяться от О до $$q_{max}$$. Первый вариант будем в дальнейшем называть детерминированным, второй - вероятностным.

Схема автомата приведена на рисунке 14.1.

Обучение и воспроизведение опыта

Рассмотрим обучение автомата при детерминированном способе задания весов связей. При обучении на вход автомата подается обучающая последовательность символов. При появлении на входе автомата символа $$а_i $$ в момент $$t_i$$ возбуждается элемент $$b_i$$. Связи, идущие от элемента $$b_i$$ возбуждаются в моменты $$t_1 + t_k,\:\: k=1,2 \ldots m$$. Поскольку за $$m$$ тактов на входе автомата появляется $$m$$ символов и возбуждается $$m$$ элементов, от каждого из которых отходит $$n$$ связей, в каждый момент $$t_1 + t_k $$ в автомате возбуждается $$nm$$ связей. До обучения веса всех связей равны нулю. При обучении вес связи $$q_{ijk} $$ становится равным единице, если в момент ее возбуждения (с учетом задержки) на входе автомата появился символ $$а_j$$ и возбудился элемент $$b_j$$ на который идет связь. Таким образом, опыт автомата отражается в распределении весов связей. Поскольку величина максимальной задержки связи равняется $$m$$ тактам, этой величиной ограничивается длина отражающейся в опыте автомата предыстории его возбуждений.

Воспроизведение запомненного при обучении происходит следующим образом. На вход автомата подается часть обучающей последовательности, под действием которой возбуждаются элементы, соответствующие символам на входе, и связи, идущие от этих элементов. В каждом такте для каждого элемента производится суммирование весов приходящих на него и возбужденных в этом такте связей. В такте, следующем за предъявлением последнего входного символа, т. е. тогда, когда на входе автомата символов нет, возбуждается тот элемент $$b_i$$ для которого сумма весов приходящих на него возбужденных в этом такте связей $$\sum g_i$$ максимальна.

Начиная с этого момента дальнейшее возбуждение элементов автомата происходит при отсутствии входных символов. Теперь при правильном воспроизведении последовательность возбуждений элементов автомата соответствует части обучающей последовательности входных символов. Обучающая последовательность может быть воспроизведена с любого места. Этот процесс может быть условно назван процессом ассоциаций по смежности во времени. Первая ассоциация является внешней и зависит от запускающей последовательности символов на входе автомата. Дальнейшие ассоциации внутренние, зависящие от воспроизведения, т. е. от хода процесса в самом автомате.

Очевидно, что максимальная длина предыстории, влияющая на возбуждение элементов в ассоциативном режиме равна т, т. е. времени максимальной задержки по связи, и в конечном счете определяется числом связей между элементами и величинами временных задержек.

Заметим, что человек более или менее успешно запоминает последовательности из 6 - 7 символов. При попытках запоминания и воспроизведения более длительных последовательностей чаще всего возникают проблемы.

Описанный процесс воспроизведения опыта может быть назван ассоциациями по времени появления входных элементов (символов) на фиксированном временном отрезке. Возможен случай, когда поданная на вход автомата последовательность входных элементов не совпадает в точности ни с одним отрезком обучающей последовательности. В этом случае максимальное значение величины $$\sum g_i$$ будет у того выходного элемента, который обучался наиболее похожей последовательности. Процесс, происходящий в этом случае, может быть назван ассоциацией по сходству временных последовательностей.

Вариант с опорными кодами

На вход автомата подается непрерывная обучающая последовательность. Входные символы из этой последовательности запоминаются не по следованию друг за другом, а по следованию за некоторым "опорным кодом". Опорный код представляет собой алгоритмически получаемый набор последовательностей символов входного алфавита длины т, равной длине учитываемой предыстории. Каждый входной символ запоминается независимо от других по следованию за своей опорной последовательностью.

При обучении изменяются веса связей, которые идут от элементов, соответствующих символам опорного кода, к элементам, соответствующим поступающим на вход автомата символам из обучающей выборки. При помощи опорных кодов реализуется ассоциативно-адресный способ запоминания, при котором адресом является опорный код, а связь запоминаемой информации с адресом является ассоциативной.

Организация процессов обучения и воспроизведения в автомате может отличаться от описанной. Некоторые варианты приводятся ниже.

Эксперимент

Возможность ошибки при ассоциативном воспроизведении связана с тем, что по рассмотренной схеме при обучении учитывается взаимодействие во времени каждой пары элементов независимо от возбуждения остальных элементов. Так, если при обучении подавались последовательности (слова) $$\overline{abc}d$$, $$\overline{а}kre$$, $$k\overline{b}re$$, $$кr\overline{с}е$$, то в режиме воспроизведения при подаче на вход последовательности $$abc$$ на элементах $$d$$ и $$е$$ возникнет одинаковая величина $$\sum g$$, равная 3, и символы $$d$$ и $$е$$ будут воспроизведены с равной вероятностью.

Вероятность однозначного правильного воспроизведения растет при увеличении длины учитываемой предыстории и числа элементов в автомате. И то и другое требует увеличения объема памяти автомата. С другой стороны, вероятность правильного воспроизведения уменьшается при увеличении объема запоминаемого материала. В соответствии с этим, экспериментально оценивалась вероятность правильного воспроизведения в зависимости от соотношения между объемом памяти автомата и объемом запоминаемого материала. Кроме того определялось наилучшее соотношение между числом элементов и числом связей для фиксированного объема памяти автомата.

Проведенные эксперименты отличались режимами обучения и воспроизведения.

Вариант 1.На вход автомата подавались непрерывные обучающие последовательности разной длины. Определялась максимальная длина воспроизводящейся без ошибок обучающей последовательности в зависимости от длины учитываемой предыстории, т. е. от количества связей на элемент. Число элементов фиксировалось равным 33. Входной алфавит - буквы. Пробел между словами рассматривался как входной символ. Длина учитываемой предыстории m изменялась в пределах от 4 до 16 тактов. Длины обучающих выборок Lmax изменялись от 150 до 580. В экспериментах использовались обучающие последовательности трех типов: произвольный текст, наборы, составленные из простых существительных в именительном падеже, случайные наборы букв. Кривые, соответствующие усредненным результатам, приведены на рисунке 14.2.

Из кривых видно, что при увеличении длины учитываемой предыстории автомат воспроизводит без ошибок более длинные последователь-

ности. Лучшие результаты получены, когда на вход автомата подавались случайные последовательности.

Вариант 2.На вход автомата подавались отдельные слова, запоминавшиеся независимо. Автомат воспроизводил конец слова по заданному началу. Определялось среднее количество начальных букв, необходимое для правильного воспроизведения конца слова, а также количество правильно воспроизведенных концов слов в зависимости от общего числа слов, которым обучался автомат.

В этой серии экспериментов случайные слова длиной 7 символов запоминались лучше при $$L$$ до 270 слов. При дальнейшем увеличении $$L$$ лучше запоминаются слова из текста.

Эксперименты с запоминанием и воспроизведением по отношению к опорному коду показали, что при ассоциативно-адресной схеме запоминания возможно получение относительно высокой вероятности правильного воспроизведения (порядка 0,97).

Эксперименты в целом показали, что в схеме с временными задержками возможно ассоциативное запоминание, определяемое смежностью во времени элементов запоминаемой информации. Вероятность правильного воспроизведения в ассоциативном автомате в значительной степени зависит от отношения объема запоминаемой информации к объему памяти автомата. Вероятность правильного воспроизведения в значительной степени зависит также от характера входной информации. Эта зависимость должна еще сильней проявиться при вероятностной схеме запоминания.

Вероятностная схема

Рассмотренная детерминированная схема ассоциативного временного взаимодействия не учитывает закономерностей входной информации в том смысле, что часто повторяющиеся входные последовательности запоминаются так же, как и однократные. Тем самым в системе не накапливается обобщающий опыт: случайные события фиксируются в памяти наравне с регулярными. В адаптивной, приспосабливающейся к среде системе должны запоминаться вероятностные связи между входными воздействиями.

Описанная детерминированная схема позволяет при воспроизведении предсказывать появление на входе событий (в наших экспериментах - символов алфавита) с учетом динамической предыстории. Для того чтобы та же схема обладала кроме того свойством предсказания с учетом частоты временных парных взаимодействий элементов $$bi$$ автомата, необходимо изменить свойства связей и процесс обучения. Эта модификация была названа выше вероятностной схемой. Отличие заключается в том, что в вероятностной схеме веса связей могут принимать уже не только два значения 0 и 1, а изменяться от 0 до $$q_{max}$$.

Так же как и в детерминированной схеме, вес связи $$q_{ijk}$$ увеличивается, если в момент ее возбуждения возбужден элемент $$b_j$$ на который идет связь. Если условия увеличения веса связи повторяются многократно, происходит увеличение с насыщением - вес связи стремится к пределу $$q_{max}$$. С течением времени веса невозбуждающихся связей экспоненциально уменьшаются до величины $$q_{min}$$ чем обеспечивается "забывание", необходимое для того, чтобы в памяти отражалось не только суммарное количество временных парных взаимодействий элементов автомата, но и "свежесть" опыта.

При компьютерной реализации вероятностного автомата для запоминания весов связей требуется значительно больший объем памяти, чем в случае детерминированной схемы, где вес связи - двоичная величина. Программно реализованный иллюстративный вероятностный автомат имел 33 элемента, т. е. был рассчитан на работу с 33 входными символами. Число связей на один элемент равнялось 6, т. е. длина учитываемой предыстории была 6 тактов (символов). Автомат запоминал и ассоциативно воспроизводил относительно короткие (200 знаков) грамматические тексты. Более подробное исследование свойств одноуровневого вероятностного ассоциативного автомата в работе не проводилось.

Вероятность правильных временных ассоциаций в одноуровневой схеме с временными задержками при передаче возбуждений существенно выше, чем в рассмотренном ранее случае, когда все связи имеют одинаковую задержку, равную одному такту. Однако, как мы видели, ошибки возникают и при схеме с задержками. В случае запоминания регулярных последовательностей вероятность правильного воспроизведения повышается при использовании вероятностной схемы запоминания.

Существенное повышение вероятности правильного воспроизведения временных последовательностей возможно, по-видимому, только в многоуровневой иерархической системе памяти. В этой системе должны вырабатываться обобщения по смежности во времени и при воспроизведении должны учитываться не только взаимодействия между отдельными парами элементов, но и групповые взаимодействия внутри и между регулярными группами элементов.

Возможность реализации в активной нейронной модели

Нетрудно видеть, что описанная схема одноуровневых временных ассоциативных взаимодействий более или менее просто вписывается в логику работы рассмотренной в предыдущей лекции двухслойной активной нейронной сети.

В предыдущей лекции был описан упрощенный процесс формирования в модели одноуровневой двухслойной нейронной сети парных ассоциаций по смежности во времени поступления входных воздействий. Отличие этого процесса от процессов в описанном ассоциативном автомате состоит в наличии временных задержек при передаче сигналов от одного нейрона к другому.

Задержки и соответствующие задержкам дополнительные связи между элементами или нейронами вторичных нейронных сетей в активной нейронной сети не могут быть введены чисто формально. Образование связей и изменение величин их синаптических проводимостей, в соответствии с нашими общими постулатами, должно происходить в сети автоматически и должно быть направлено на оптимизацию функциональных состояний нейронов.

Изменения величин синаптических проводимостей связей с задержками, необходимые для реализации ассоциаций по времени, при качественном рассмотрении вытекают из принятых нами свойств нейронов. Для автоматического образования связей с задержками необходимо введение дополнительных постулатов. Можно, конечно, исходно закладывать в систему нужное количество "заготовок" - нейтральных связей с задержками, однако это может потребовать слишком большой памяти.

Физиологичность представлений о наличии в нейронной сети задержек вытекает, во-первых, из того, что передающие сигналы аксоны имеют разную длину, разную толщину, разную скорость и, соответственно, разное время передачи импульсов. Во-вторых, можно предположить, что задержки формируются на самом нейроне. На один нейрон коры головного мозга может приходить до 1000 связей. Связи оканчиваются синапсами на разных дендритах. Дендриты имеют разную длину, разную конфигурацию и разное расположение по отношению к телу клетки. Все это может определять задержку при передаче сигнала конкретным синапсом.