Активные нейронные модели (А-сети)

Активность

Полная модель нейронных механизмов мозга должна в конечном счете обладать всеми приведенными в предыдущей лекции свойствами. Однако, как уже отмечалось, наиболее принципиальным и самым важным из этих свойств представляется свойство активности. Другие важнейшие необходимые функциональные или рабочие свойства мозга могут оказаться в значительной степени производными от свойства активности. В связи с этим нужно ответить на два вопроса: что такое активность мозга и зачем мозгу активность.

Определим свойство активности любой системы как действия, порождаемые внутренней целью системы и состоящие в преследовании этой цели. Активность живого организма определяется способом организации живой материи, требующим создания и непрерывного поддержания неравновесного состояния. Принцип организации систем с активно поддерживаемым устойчивым неравновесием мы назвали активным динамическим. Следует отметить, что активный динамический способ организации может быть характерен не только для живых организмов, но и для некоторых искусственных систем.

Активный динамический способ организации (существования) требует постоянного направленного взаимодействия со средой. На клеточном уровне живого организма это взаимодействие выражается в процессах метаболизма, то есть обмена веществ через кровеносную систему, на уровне целого организма взаимодействие со средой осуществляется в процессе внешнего поведения, направленного на достижение целевых ситуаций и удовлетворение потребностей.

Для возобновления и сохранения неравновесных структур живых систем необходима постоянная внутренняя работа. Причина и цели этой работы находятся внутри живой системы. Причина и цели внешнего поведения живого организма в нормальной, не экстремальной ситуации также определяются преимущественно внутренними факторами, а именно непрерывной необходимостью поддержания неравновесия и, как следствие, объективными первичными потребностями, а у человека также и в значительной степени субъективными вторичными потребностями.

Из этого следует, что работа, совершаемая живым организмом как на клеточном уровне для поддержания устойчивого неравновесия живых структур, так и на уровне внешнего поведения в среде, вызывается внутренними причинами и, таким образом, соответствует введенному определению активности.

Итак, можно сделать вывод, что активность нужна всему живому функционально, как на поведенческом, так и на клеточном уровне. На этом основаны принципы работы любых живых механизмов. Слова "жизнь" и "активность" хотя и не синонимы, но они относятся к тесно и неразрывно связанным между собой понятиям.

Образующие мозг клетки, как и любые другие клетки организма, активны. Теперь посмотрим, является ли активным "устройством управления" мозг в целом. Мозг решает задачу оптимального управления активным целенаправленным поведением. Эта задача постоянна и непрерывна. Однако задача управления поведением запускается внешними по отношению к мозгу входными сигналами - первичными и вторичными мотивациями. Для решения используется входная информация, поступающая из среды. Выход системы управления, то есть мозга, используется для организации внешних действий в процессе поведения. Таким образом, может показаться, что, решая задачу управления поведением, мозг работает как обычное имеющее вход и выход пассивное устройство управления.

Однако известно, что, в отличие от обычных пассивных систем, мозг не может не работать. Даже если мозг в какой-то момент времени не занят решением задачи управления поведением или какой-нибудь другой задачи, он продолжает постоянно работать. На что направлена эта работа? Можно предположить следующее. Мозг строит активную модель среды, живущую по ее законам. Непрерывно происходит восприятие окружающей среды. Непрерывно происходит обкатка, доводка и коррекция строящейся в мозгу модели среды.

Мы уже говорили о том, что необходимость построения модели среды, а следовательно, и получение информации по своим внешним признакам сходны с потребностями и в определенном приближении могут рассматриваться как первичные потребности живого организма. На таком представлении, подкрепляемом экспериментами на животных, основываются различные информационные модели поведения, например, принцип максимума информации Г.А. Голицына. (Следует отметить, что в информационных моделях часто "перегибают палку" и говорят о получении информации как об основной и даже единственной цели поведения.)

В свете всего сказанного можно полагать, что мозг активен и что в работе мозга прослеживается внутренняя цель - построение и совершенствование модели проблемной среды. И все же с этим можно не соглашаться, считая, что построение и поддерживание модели среды само по себе не имеет для мозга абсолютной ценности, а необходимо лишь для решения внешних поведенческих задач целого организма. Тем более что и информация сама по себе не имеет абсолютной ценности. Ее ценность проявляется лишь в свете решаемых задач и выполняемых функций.

Если то, что делается в мозге, направлено в конечном счете на решение внешних задач целого организма, то активность мозга в свете введенного выше определения активности можно поставить под сомнение. Но в мозге имеется еще одно свойство. Это свойство называется спонтанная активность, то есть активность, не связанная напрямую с необходимостью решения какой-либо внешней задачи.

Мозг так устроен, что активен, т. е. работает всегда, постоянно и непрерывно. Бодрствующий мозг не может не думать. Мозг работает даже во сне. Что заставляет мозг постоянно работать? В чем причина и цель этой активности? Единственное, что можно предположить, - это то, что постоянная активность, как во время бодрствования, так и время сна, нужна мозгу для нормализации состояния отдельных нейронов и всей нейронной сети.

Таким образом, исходной идеей для моделирования активных механизмов мозга может стать представление о мозге как о непрерывно активной системе, построенной из неустойчивых элементов и обладающей внешней поведенческой и внутренней регуляционной активностью. Внешняя активность необходима для решения непрерывной задачи поведения и поддержания устойчивого неравновесия организма в целом. Внутренняя активность мозга - это не только активность метаболизма, но и активность синергического взаимного возбуждения нервных клеток. Эта активность необходима для поддержания оптимального состояния составляющих систему неустойчивых элементов - нейронов. Можно предположить, что с необходимостью поддержания оптимального состояния нейронов, а значит и с активностью, связаны и функциональные свойства мозга, в том числе построение модели проблемной среды, восприятие, управление поведением, решение практических и абстрактных, в том числе творческих, задач.

Гипотеза Емельянова-Ярославского

Впервые представления о том, как может работать активная нейронная сеть, были сформулированы в работах Л.Б. Емельянова-Ярославского [9]. При всей неоднозначности, спорности и зачастую противоречивости содержащихся в этих работах предположений о функционировании нейронных механизмов головного мозга, идея использования неустойчивости нейронов и построения на этой основе модели активной синергичной нейронной сети заслуживает самого серьезного внимания.

Если не вдаваться в необязательные авторские физиологические интерпретации и не пользоваться некоторыми авторскими терминами, например, такими как быстрое старение и быстрое омоложение нейрона и др., то суть гипотезы Емельянова-Ярославского можно в определенном приближении сформулировать следующим образом.

Реализуемый в мозге принцип оптимальности - это максимум питания нервных клеток при ограниченном питании мозга в целом. Для отдельного нейрона этот принцип сводится к максимизации коэффициента полезного действия обмена нейрона со средой (метаболизма). При этом гипотетически предполагается, что изменения функционального состояния несрабатывающего нейрона по этому критерию происходят монотонно во времени и сопровождаются потерей устойчивости - повышением возбудимости. При каждом срабатывании (возбуждении) нейрона происходят противоположные по знаку дискретные изменения - возбудимость снижается (устойчивость увеличивается). Параметр "функциональное состояние" имеет фиксированное оптимальное значение. Оптимальное в среднем состояние нейронов сети, минимизирующее их необходимое общее потребление, достигается только при постоянной активности нейронов и их срабатывании с оптимальной интенсивностью.

Постулат Емельянова-Ярославского о связи оптимального состояния нейронов с максимизацией питания нервных клеток представляется спорным, искусственно притянутым и необязательным. При разработке экспериментальных моделей принцип максимума питания никак не участвовал в работе нейронов и сети в целом. Что касается физиологических интерпретаций, то их можно проводить и по-другому.

На основе постулатов Емельянова-Ярославского строится следующая логическая схема. Модель активной нейронной сети нужно строить, основываясь на гипотезе о том, что в сети есть постоянная внутренняя задача, состоящая в необходимости непрерывного поддержания оптимальных функциональных состояний нейронов и требующая их постоянной активности. Внутренняя задача, во-первых, возникает как следствие отклонения от оптимума функциональных состояний не работающих (не возбуждающихся) нейронов. Решается эта задача при групповом взаимовозбуждении нейронов за счет того, что параметр оптимальности изменяется и может поддерживаться на оптимальном уровне только при возбуждении нейрона.

Во-вторых, внутренняя задача возникает при постановке внешней задачи восприятия или поведения, сводящейся в конечном счете к внешнему возбуждению какой-то группы нейронов сети. Внешняя задача должна нарушать режим общей равномерной оптимизации и приводить к отклонению от оптимума функциональных состояний нейронов. Решение задачи должно приводить к восстановлению режима оптимизации, что должно улучшать функциональное состояние нейронов сети. Таким образом, необходимость решения задачи не задается мозгу извне, а становится его внутренней целью. Направленные на оптимизацию состояния структурные перестройки нейронной сети должны состоять в образовании синергических взаимосодействующих групп нейронов. Эти группы (ансамбли нейронов) становятся основой информационной нейронной модели проблемной среды.

Приведенные общие свойства нейронов и нейронной сети и различные модификации этих свойств послужили основой для разработки, компьютерной реализации и экспериментальной проверки нескольких приблизительно одноплановых вариантов программных моделей. Разными в этих вариантах были выбираемые для моделирования конкретные свойства нейронов и связей между ними, а также исходная структура сети. Принципиальных отличий между этими вариантами нет. Эксперименты начинались еще в 60-х годах прошлого века. Большая часть этих работ была прекращена по разным причинам. Главной причиной была недостаточная мощность существовавших тогда вычислительных средств. Полученные экспериментальные результаты могут претендовать только на иллюстрации некоторых особенностей активных нейронных сетей. Во-первых, была проиллюстрирована возможность формирования в нейронной сети на основе взаимодействия нейронов режима саморегуляции. Во-вторых, иллюстрируется возможность образования памяти внешних воздействий в виде нейронных ансамблей.

Утверждение Емельянова-Ярославского о построении полной логики работы нейронных механизмов мозга не является обоснованным. Не подтверждено это утверждение и экспериментально. Тем не менее представляется, что исходная идея о неустойчивости и активности нейронов должна лежать в основе разработки нейронных моделей мозга.

Модель трехслойной активной сети с возвратным торможением

Рассмотрим экспериментальную модель [17], построенную на основе идеи о неустойчивости и активности нейронов. Отличие этой модели от общей схемы Емельянова-Ярославского состоит во введении сенсорного слоя и слоя элементов, обеспечивающих возвратное торможение.

Нейрон, как и любой целостный объект, может полностью характеризоваться набором переменных, их текущими значениями, зависимостями между переменными и зависимостями переменных от времени и внешних воздействий. Применительно к модели нейронной сети формальное задание всех этих зависимостей и аналитическое описание на этой основе работы системы в целом не представляется возможным. Поэтому все переменные в описываемой модели определяются пошаговыми рекуррентными соотношениями. Время дискретно, т. е. разбивается на такты. В каждом такте просчитываются и изменяются все переменные (параметры) всех нейронов и связей. Таким образом, строится програмная модель нейронной сети, рассматриваемой как физический объект.

Принимается (постулируется), что для моделирования нейронных механизмов мышления достаточны объекты двух типов: нервная клетка (нейрон) и нервная связь. Переменные, характеризующие нейрон, - это возбудимость, потенциал поляризации мембраны и функциональное состояние. Переменные, характеризующие связь, - это ее проводимость, топология, знак и временная задержка передаваемого сигнала. Сведение всех свойств нейрона к этому ограниченному множеству упрощает и делает практически возможным компьютерное моделирование. В то же время это сопряжено с опасностью игнорирования каких-то свойств нейрона как живой клетки, что в конечном счете может отразиться на принципиальных свойствах модели. Однако представляется, что этот риск не очень велик, если в модели сохраняются главные свойства живого - неустойчивость и активность.

Приведем общие свойства нейронов экспериментальной модели. Точные количественные характеристики широко варьировались при проведении экспериментов.

Функциональное состояние нервной клетки зависит от предыстории ее возбуждений и выражается в модели некоторым параметром $$Q$$. Этот параметр имеет общее для всех нейронов оптимальное значение $$Q_{opt}$$. Параметр $$Q$$ дискретно увеличивается при каждом разряде нейрона и монотонно уменьшается во времени у несрабатывающего нейрона. Из этого следует, что для оптимизации функциональных состояний нервных клеток необходимы срабатывания (разряды) нейронов с некоторой оптимальной частотой. Нейрон может сработать при поступлении на его входы внешнего возбуждения. Достижение оптимального в среднем функционального состояния нейронов по всей сети достигается только при их взаимодействии - взаимном возбуждении или торможении.

Нейрон представляет собой пороговый элемент с временной и пространственной алгебраической (т. е. с учетом знака) суммацией возбуждающих и тормозящих воздействий, переменной возбудимостью, рефрак-терностью и экзальтацией после срабатывания.

Условие срабатывания нейрона: $$W>U$$, где $$U$$ - порог срабатывания, $$W$$ - накопленный потенциал.

На нейрон может приходить любое количество возбуждающих и тормозящих связей от других нейронов или рецепторов. От нейрона отходит один аксон, который может разветвляться на любое количество возбуждающих и тормозных коллатералей, заканчивающихся на разных нейронах.

Накопленный на нейроне потенциал $$W$$ определяется алгебраической суммой пришедших на нейрон возбуждающих (+) и тормозящих (-) воздействий. Кроме того, накопленный потенциал у несрабатывающего нейрона экспоненциально уменьшается во времени:.

где:

$$W_n$$ - значение накопленного потенциала в $$n$$ -м такте,

$$W_{n+1}$$ - значение накопленного потенциала в $$n+l$$ -м такте,

$$w(W_n)$$ - слагаемое, определяющее уменьшение накопленного потенциала во времени,

$$S_i$$ - величина синаптической проводимости $$i$$ -й связи,

$$а_i$$ - признак активности $$i$$ -й связи в $$n+l$$ -м такте.

После срабатывания нейрона накопленный на нем потенциал становится равным нулю.

Порог срабатывания имеет две составляющие - статическую и динамическую: $$U=U_s + U_d$$. B рассматриваемом промоделированном варианте статическая составляющая порога срабатывания монотонно снижается у несрабатывающего нейрона (возбудимость повышается) и увеличивается на малую дискретную величину при каждом срабатывании (возбудимость снижается). Статическая составляющая порога срабатывания связана прямой линейной зависимостью с параметром $$Q$$, т. е. $$U = KQ$$.

Динамическую составляющую порога срабатывания иллюстрирует рисунок 13.1.

Сразу после разряда порог срабатывания нейрона резко повышается, затем экспоненциально снижается до величины, меньшей чем начальное значение статической составляющей порога срабатывания (экзальтация), и затем повышается до величины, несколько превышающей начальное значение статической составляющей. Интервал $$t_1-t_2$$ соответствует абсолютной рефрактерности, когда разряд нейрона невозможен при любых внешних воздействиях. Интервал $$t_2-t_3 $$ соответствует относительной рефрактерности, интервал $$t_2-t_4$$ соответствует экзальтации.

Связи между нейронами нужны для осуществления возбуждающих и тормозящих взаимодействий. От нейрона может отходить любое (в пределах технических ограничений) количество связей. Величина и знак передаваемого по связи потенциала определяются переменной величиной и знаком синаптической проводимости связи. Правила изменения синап-

тических проводимостей связей между нейронами наряду с правилами изменения порога возбудимости нейрона являются основой, определяющей работу нейронов и сети.

Синаптическая проводимость связи между $$i$$ -м и $$j$$ -м нейронами $$S_{ij}$$ может "активно" изменяться при прохождении по этой связи сигнала. Приращение возможно только при условии срабатывания $$j$$ -ro нейрона. Если условий для "активного" изменения нет, синаптическая проводимость экспоненциально уменьшается, приближаясь к величине $$Smin$$. Знак и величина "активного" изменения синаптической проводимости связи зависят от сочетаний значений величин $$Q_i$$ и $$Q_j$$ (функциональных состояний) пары нейронов в момент прохождения сигнала по связи между ними.

Общий качественный смысл зависимостей, определяющих приращения синаптических проводимостей, состоит в следующем. Величина положительного приращения возбуждающей синаптической проводимости связи от нейрона $$i $$ к нейрону $$j$$ при прохождении по ней сигнала прямо зависит от разности $$Q_{opt}-Q_j$$. Кроме того, это приращение связано прямой зависимостью с разностью $$Q_i-Q_j$$. Наоборот, приращение проводимости тормозящего синапса увеличивается при увеличении $$Q_j$$ в прямой зависимости от разности $$Q_j-Q_i$$.

Таким образом, при прохождении сигнала по связи ее синаптическая проводимость может увеличиваться, уменьшаться или оставаться неизменной в зависимости от сочетания значений $$Q_{opt},Q_i,Q_j$$. При прохождении значения величины синаптической проводимости связи через нуль связь меняет знак, превращаясь из возбуждающей в тормозящую или наоборот. При моделировании рассматривался также вариант, в котором уменьшения значений синаптических проводимостей как возбуждающих, так и тормозящих связей ограничивались некоторой минимальной величиной $$S_{min}$$. В этом случае при $$S_{min}=0$$ связь может уничтожаться, но менять знак не может.

Изменения величин синаптических проводимостей связей между нейронами направлены на оптимизацию функционального состояния сети в целом и объединение во взаимовозбуждающую группу одновременно срабатывающих нейронов.

Все идущие от одного нейрона связи передают сигнал с одинаковой задержкой после срабатывания нейрона. (Вариант работы сети, в котором функциональную роль играют разные задержки сигналов, передаваемых по разным связям, мы рассмотрим в следующей лекции.)

Между одновременно возбуждающимися нейронами могут образовываться новые связи. Образование новых связей между нейронами происходит в соответствии с зависимостями, качественно совпадающими с зависимостями, по которым изменяются синаптические проводимости. Связи наиболее интенсивно образуются на те нейроны, величины $$Q$$ которых, т. е. функциональные состояния, наиболее далеки от оптимальных значений. В области $$Q_{opt}$$ условий для образования новых связей нет.

В модели как постулат вводится принципиальное понятие - "функциональное состояние нервной клетки" и соответствующий ему параметр $$Q$$ имеющий оптимальное значение $$Q_{opt}$$. Можно вслед за Емельяновым-Ярославским давать этому параметру гипотетическую, не подкрепленную никакими экспериментами физиологическую интерпретацию, например, считая, что со значением параметра $$Q$$ связана эффективность метаболизма (коэффициент полезного действия обменных процессов) нервной клетки.

Однако это не обязательно. Например, для целей моделирования достаточно считать, что средняя величина параметров $$Q$$ нервных клеток является одной из физиологических констант живого организма, таких как, например, температура тела или артериальное давление. Удерживается эта величина в нужных пределах как средствами внутренней регуляции (взаимовозбуждение нейронов), так и средствами удовлетворения потребностей путем внешнего поведения (сон, отдых).

Описываемая нейронная сеть имеет три слоя. К исходной схеме Емельянова-Ярославского добавляется входной слой сенсорных элементов и второй слой нейронов. Нейроны второго слоя будем называть элементами. От нейронов первого слоя на элементы второго слоя образуются только возбуждающие связи. От элементов второго слоя на нейроны первого слоя образуются только тормозящие связи. В физиологии известны подобные схемы взаимодействия нейронов. Их название - структуры с возвратным торможением.

Рассматривались два варианта взаимодействия нейронов первого слоя и элементов второго слоя. В первом варианте тормозящая связь, идущая к нейрону первого слоя от элемента второго слоя, ничем не отличается от связей внутри первого слоя, и формируемый ею потенциал входит в алгебраическую сумму потенциалов нейрона. Во втором варианте тормозящая связь, идущая к нейрону первого слоя от элемента второго слоя, полностью запрещает срабатывание нейрона на время уменьшения создаваемого ею тормозного потенциала до некоторой величины. Все это время происходит независимая суммация всех других создаваемых на нейроне потенциалов.

Начальные условия эксперимента по формированию двухслойной первичной сети следующие: пороги возбуждения нейронов первого слоя и элементов второго слоя распределены случайно, равномерно, связей нет, внешние воздействия на сеть отсутствуют.

В переходном процессе формирования двухслойной первичной сети происходит распределение нейронов первого слоя по группам, объединенным торможением от общего элемента второго слоя, который преимущественно возбуждается нейронами этой группы. В установившемся режиме нейроны первого слоя чередуют срабатывания с интенсивностью, несколько превышающей оптимальную, и групповые синхронные срабатывания с периодом, равным времени спада тормозного потенциала. Элементы второго слоя срабатывают в фазе с групповыми срабатываниями нейронов первого слоя, чередуя эти срабатывания с паузами. При этом функциональные состояния нейронов первого слоя и элементов второго слоя, выражаемые величинами $$Q $$ изменяются в некотором диапазоне вблизи $$О_{opt}$$.

Таким образом, в процессе автоматического формирования двухслойной первичной нейронной сети образуется структура связей, разделяющая нейроны первого слоя на группы, которые объединены возбуждающими связями между нейронами внутри группы и возвратным торможением от общего для всех нейронов группы элемента второго слоя. Эти группы являются основой для образования вторичных нейронных сетей при внешних информационных воздействиях, то есть для запоминания этих воздействий.

В рассматриваемых в дальнейшем режимах работы сформировавшейся двухслойной нейронной сети на нейроны первого слоя подается "шумовое" возбуждающее воздействие, десинхронизирующее срабатывание нейронов. При этом срабатывание элемента второго слоя - случайное событие, имеющее вероятность, которая зависит от функционального состояния элемента и соответствующего функциональному состоянию порога возбудимости, т. е. в конечном счете от предыстории срабатываний.

Задача запоминания регулярных внешних воздействий решается по-разному в зависимости от того, каким образом связываются точки входного информационного слоя с нейронами первого слоя нейронной сети. В этом плане интересны два типа организации связей.

В первом случае имеется прямое соответствие: от каждой точки входного слоя, например, от рецептора, идет одна возбуждающая связь на "свой" нейрон первого слоя, и входное воздействие проектируется на нейронную сеть. В термин "проекция" не вкладывается геометрический смысл, так как распределение нейронов, соответствующих входному воздействию, не повторяет геометрических форм входного образа - нейроны выделяются равномерно по всей сети.

Во втором случае от каждой точки входного слоя отходит большое число возбуждающих и тормозящих случайных связей, оканчивающихся на разных нейронах сети. Входному образу до обучения соответствует равномерная передача возбуждающих и тормозящих воздействий на всю нейронную сеть.

Проводились два варианта экспериментов. В первом варианте от каждой точки входного информационного слоя имеется одна возбуждающая связь на соответствующий нейрон первого слоя сети. Точки входного слоя постоянно возбуждаются случайным образом. Входное воздействие подается на случайно выбранные точки входного слоя, синхронизирует возбуждение фиксированных точек, синхронизирует возбуждение соответствующих нейронов первого слоя и создает характерное распределение возбуждающего потенциала на элементах второго слоя, при котором вероятность сработать у них различна.

Элемент второго слоя, имеющий наибольшую вероятность возбуждения, начинает срабатывать в фазе с выделенной входным воздействием группой нейронов, в результате чего происходит перераспределение связей между слоями и образуется структурная группа - вторичная сеть. Выделенные информацией нейроны возбуждают один элемент второго слоя, через который подается возвратное синхронизирующее торможение на нейроны группы. Обучение происходит без подкрепления.

Описанный процесс возможен, если в сети между первым и вторым слоем имеется много лишних связей (заготовок), которые образовались на начальной стадии формирования первичной сети, а затем оказались избыточными для первичного разделения на группы, охваченные возвратным торможением, и уменьшили до Smin значения величин синапти-ческих проводимостей.

Во втором варианте обучение происходит с дифференцированным подкреплением. Необходимость подкрепления при обучении связана с тем, что в этом варианте от каждой точки входного слоя идет много случайных возбуждающих и тормозящих связей на нейроны первого слоя и при подаче любого входного возбуждения вся сеть возбуждается равномерно. Связи и величины синаптических проводимостей связей между точками входного слоя и нейронами первого слоя изменяются по зависимостям, сходным с зависимостями изменения связей в первом слое сети.

В процессе обучения периодически возбуждаются фиксированные, случайно выбранные точки входного слоя. Одновременно дается подкрепление - возбуждается один из элементов второго слоя сети. При этом происходит изменение синаптических проводимостей входных связей. От возбуждающихся точек входного слоя увеличиваются возбуждающие и уменьшаются тормозящие синаптические проводимости связей на нейроны первого слоя, объединенные возвратным торможением от элемента второго слоя, на который дается подкрепление. Синаптические проводимости возбуждающих связей, идущих от выделенных входным воздействием точек входного поля на все нейроны, которые не входят в подкрепляемую группу, уменьшаются, тормозящие увеличиваются, до тех пор, пока входное воздействие не перестает оказывать десинхронизирующего влияния на режим регулирования функциональных состояний в первичной сети.

Таким образом происходит привязка подкрепляемой группы первичной сети к выделенным информационным воздействием точкам входного слоя. После обучения поданное на вход "знакомое" кратковременное информационное воздействие запускает периодический процесс срабатывания одной группы - образованной вторичной сети, которая одновременно является группой первичной сети. Работа этой группы заканчивается за счет увеличения порогов срабатывания нейронов первого слоя и не оказывает десинхронизирующего влияния на работу других групп.

Во всех случаях обучение связано с перестройкой нейронной сети. Эта перестройка не должна искажать результатов предыдущего обучения, т. е. не должна затрагивать образованных при обучении вторичных нейронных сетей. В модели эта проблема может решаться формально - либо с помощью блокировок, либо при помощи направленного подкрепления. Физиологичность и того, и другого способа может вызывать сомнения.

Во всех вариантах обучения, если входной образ подается многократно с небольшими деформациями и искажениями, то после длительного процесса структурных изменений в сети сформированная входным воздействием структурная группа - вторичная сеть - включает только регулярно работающие нейроны первого слоя. Случайные искажения отбрасываются.

Если сеть обучена некоторому набору регулярных входных информационных воздействий, каждому из которых соответствует определенная вторичная сеть (ансамбль нейронов), то в системе возможны ассоциации по сходству: при подаче на сеть нового информационного воздействия, которое в общем случае может состоять из случайного набора точек входного поля, вероятность активации вторичных сетей, имеющих общие входные точки с этим входным воздействием, увеличивается. Чем больше общих входных точек, тем выше вероятность активации соответствующей вторичной сети, поскольку для запуска процесса срабатывания вторичной сети необходимо близкое по времени срабатывание входящих в нее нейронов первого слоя и входное воздействие синхронизирует срабатывания части этих нейронов.

После активации вторичной нейронной сети процесс некоторое время поддерживается сам за счет взаимных возбуждающих связей между входящими в группу нейронами первого слоя и возвратного синхронизирующего торможения. Таким же образом на вероятность активации вторичной сети влияет подача на вход искаженного знакомого информационного воздействия или его части.

На вероятность активации вторичной сети влияет не только число общих точек этой сети с входным воздействием, но и функциональные состояния, т. е. пороги возбудимости входящих во вторичную сеть нейронов первого уровня. Вследствие этого могут происходить отдаленные, т. е. не самые близкие по числу общих точек ассоциации.

Схема сети с возвратным торможением внешне похожа на схему классического трехслойного перцептрона. Так же, как в перцептроне, разделение пересекающихся на входном уровне информационных воздействий происходит на уровне групп нейронов первого слоя и связей, идущих к нейронам от сенсорных элементов. Принципиальное отличие - возвратное торможение и накапливающаяся неустойчивость нейронов. Последнее лежит в основе обучения и свойства активности. В описанной трехслойной сети возможно запоминание и спонтанное воспроизведение временных последовательностей, т. е. возможны ассоциации по смежности во времени. Однако экспериментальная реализация такого режима не проводилась.

А-сеть - модель, удовлетворяющая принципу устойчивого неравновесия

Экспериментальные модели нейронных сетей, строившиеся на основе гипотезы Емельянова-Ярославского, в принципе, обладают свойством активности. Однако предложенная Емельяновым-Ярославским схема работы нейронной сети, так же как и ее модификации, плохо согласуется с принципом устойчивого неравновесия. Возможна и другая схема. Неравновесным состоянием естественно считать состояние повышенной возбудимости. В соответствии с принципом устойчивого неравновесия достигаться максимальное неравновесие (высокая возбудимость) должно не в покое нервной клетки, а наоборот - за счет ее работы, т. е. возбуждений. Порог возбуждения неработающей нервной клетки должен не уменьшаться, а увеличиваться. При каждом срабатывании нейрона его порог возбуждения должен не увеличиваться, а уменьшаться. Оптимальное (неравновесное) состояние нейрона должно соответствовать его повышенной возбудимости, т. е. минимальному значению порога возбуждения.

Рассмотрим на качественном уровне соответствующий вариант активной сети. Экспериментально этот вариант не прорабатывался. Однако достоверность делающихся выводов и предположений во многом основана на опыте экспериментальной работы с рассмотренной модификацией схемы Емельянова-Ярославского, т. е. с моделью трехслойной сети.

В гипотетической модели ( $$А$$ -сети), так же как и ранее, предполагается, что нейрон - это пороговый элемент с временной и пространственной суммацией возбуждающих и тормозящих воздействий. Изменяющиеся параметры нейронов - это функциональное состояние, накопленный потенциал возбуждения, порог возбуждения и синаптические проводимости возбуждающих и тормозящих связей. Параметры, отражающие функциональное состояние $$(Q)$$ и порог возбуждения $$(U) $$ нейрона, связаны прямой зависимостью $$U = kQ$$. (В принципе, о параметре $$Q $$ можно было бы не говорить, сводя все к порогу возбудимости, имеющему оптимальное значение и изменяющуюся величину.) Порог возбуждения нейрона увеличивается у несрабатывающего нейрона. При каждом срабатывании порог уменьшается на постоянную величину. Так же изменяется и параметр $$Q$$. Возбуждающий потенциал $$(W)$$ образуется алгебраическим суммированием приходящих по связям возбуждающих и тормозящих воздействий. Величины и знаки этих воздействий определяются величинами и знаками синаптических проводимостей связей $$(s)$$. Проводимости связей изменяются при прохождении по ним сигнала в зависимости от значения параметра $$Q $$ нейрона, на который приходит сигнал. Между одновременно срабатывающими нейронами могут образовываться новые связи. Нейрон срабатывает при $$W>U$$. При срабатывании нейрона возбуждающий потенциал становится равным нулю. При отсутствии воздействий на нейрон накопленный потенциал экспоненциально снижается. Свойства нейронов и связей между ними таковы, что оптимизация в сети возможна лишь при групповом взаимодействии (взаимосодействии) нейронов и их непрерывной или периодической активности.

Начальные качественные предположения об основных общих свойствах нейронных механизмов $$А$$ -сети состоят в следующем:

Большинство приведенных предположений должны в основном рассматриваться как постулаты, которые определяют свойство активности нейронной сети, направленной на оптимизацию своего функционального состояния. Эти предположения в определенной степени пересекаются с общими исходными свойствами модели Емельянова-Ярославского.

Первично нейроны должны возбуждаться только при внешних активирующих информационных воздействиях. Одновременно возбуждающиеся нейроны образуют ансамбль. Связи между нейронами ансамбля создают синергическое возбуждающее взаимосодействие, обеспечивающее работу (возбуждение) ансамбля и при снятии внешних воздействий. Эта работа должна приводить к достижению оптимальных состояний нейронов ансамбля и их повышенной возбудимости. Заканчиваться работа ансамбля должна при поступлении на него тормозящих воздействий от других работающих ансамблей, а также от элементов, создающих возвратное торможение (схема с возвратным торможением описана выше). Последовательно возбуждающиеся ансамбли должны связываться в цепочки за счет возбуждающих связей в прямом направлении времени и тормозящих в обратном. Это достигается за счет принимаемых в модели свойств связей.

Проводимости связей изменяются при одновременном срабатывании связываемых нейронов. Проводимость возбуждающей связи от нейрона $$i$$ к нейрону $$j$$ увеличивается, если $$Q_j > Q_{opt}t$$, и тем сильней, чем больше разность $$Q_j - Q_{opt}$$. Проводимость тормозящей связи от нейрона $$i$$ к нейрону $$j $$ увеличивается, если $$Q_i > Q_j$$ и тем сильней, чем больше разность $$Q_{opt}-Q_j$$. По таким же правилам должны образовываться новые связи между нейронами. В результате будут образовываться ансамбли взаимовозбуждающихся нейронов. Кроме того, будут усиливаться возбуждающие связи, которые идут от ансамбля, начавшего работать раньше, к ансамблю, начавшему работать позже. Также будут усиливаться тормозящие связи, идущие от ансамбля, начавшего работать позже, к ансамблю, начавшему работать раньше.

Если нейроны ансамбля не возбуждаются, то их пороги срабатывания увеличиваются. Одновременно увеличиваются (отклоняются от оптимума) значения параметров $$(Q)$$, определяющих функциональные состояния нейронов. Можно сказать, что в $$А$$ -сети при этом возникает потребность во внешнем информационном запускающем возбуждающем воздействии на ансамбли нейронов. Кроме того, возникает потребность в образовании ансамблей взаимосодействующих нейронов, достигающих оптимальных состояний только в процессе совместной работы и взаимных возбуждений. И наконец, возникает потребность в активации ансамблей от других ансамблей, работа которых при отсутствии внешних информационных воздействий выстраивается в регулярные временные последовательности (предвидение).

Есть еще одно принципиальное отличие от схемы Емельянова-Ярославского. Попытки понять, как устроены и работают нейронные механизмы мозга, должны основываться на том, что мозг развивался в процессе эволюции не для решения своих собственных задач, а для решения задач целого организма. Необходимо ответить на вопрос, как на основе неустойчивости и активности нейронных механизмов решаются не только внутренние, но и внешние функциональные задачи мозга. В первую очередь нужно ответить на вопрос, как осуществляется обучение, то есть построение в мозге активной иерархической модели проблемной среды, и как работает эта активная модель при решении задач восприятия и управления целенаправленным поведением живого организма, а также и при решении абстрактных задач.

Можно представить, что кроме кратковременных информационных возбуждений возможны и длительные возбуждения, мешающие режиму последовательной активации разных нейронных ансамблей, т. е. общей саморегуляции сети. Стабильные фиксированные очаги возбуждения могут соответствовать первичным и вторичным потребностям живого организма. Прекращение возбуждения должно происходить при удовлетворении потребности и снятии соответствующих возбуждающих воздействий. Так связываются поведенческие задачи с задачей оптимизации состояния нейронной сети.

Не менее интересен и вопрос о том, как в мозге возникают, фиксируются и умозрительно решаются задачи абстрактного мышления. В мозге при постановке и решении любых задач, т. е. не только задач поведения, но и умозрительных абстрактных задач, работает принцип доминанты А.А. Ухтомского. При моделировании мышления важно ответить на вопрос, как на нейронном уровне может происходить возникновение, фиксация и снятие доминант или возникновение, поддержание и гашение очагов возбуждения. Возникновение очагов возбуждения, мешающих общей равномерной оптимизации сети, и их гашение соответствует возникновению и решению поведенческих и абстрактных задач мышления, а также поиску информации, необходимой для достройки модели проблемной среды.

В гипотетической полной модели среднее значение параметра $$Q $$ по всей сети должно быть "эмоциональной переменной", то есть должно учитываться в эмоциональном центре при выборе линии поведения наравне с другими эмоциональными переменными, формирующими первичные и вторичные мотивации.

И наконец, важно понять, как в нейронной модели может быть реализован полный отдых в режиме "сна". Этот режим должен приводить к равномерной нормализации функциональных состояний всех нейронов при отсутствии внешних информационных воздействий.

Помимо основных функциональных или рабочих свойств мозг проявляет и специальные свойства и функции, присущие только живому мозгу: это интуиция, озарение, или инсайт, творчество, эмоциональные реакции на музыку, абстрактную живопись (т. е. живопись без смысловой нагрузки), стихотворный ритм, красоту природных явлений. К этому перечню можно добавить еще любопытство, юмор, навязчивую идею, навязчивый мотив. Было бы хорошо, если бы нейронная модель объясняла и такие свойства. Не исключено, что именно активное устойчивое неравновесие нейронов и синергическая активность нейронной сети могут дать ключ к пониманию и этих свойств мозга. Некоторые интерпретации приводятся в дальнейшем изложении. Однако подробная проработка и тем более экспериментальная проверка логики работы активных нейронных сетей, соответствующих принципу устойчивого неравновесия, не проводились.

Простые ассоциации по времени (предвидение).

В нейронной модели, обладающей свойством активности, должны происходить процессы предактивации нейронных структур, основанные на предвидении. В гипотетической полной иерархической многоуровневой модели предвидение может основываться на моделировании процессов в среде и процессов взаимодействия организма (автомата) со средой. В одноуровневой трехслойной сети предвидение, т. е. предактивация вторичных нейронных сетей, должно основываться в первую очередь на ассоциациях по смежности во времени поступления информационных воздействий.

В упрощенной системе, когда рассматривается только один уровень нейронной сети, эти ассоциации строятся на возбуждающих и тормозящих взаимодействиях между активируемыми в повторяющихся последовательностях вторичными сетями (ансамблями). В прямом направлении времени возбуждающие связи между ансамблями нейронов увеличиваются, а тормозящие - уменьшаются. В обратном направлении времени, наоборот, возбуждающие связи между ансамблями нейронов уменьшаются, а тормозящие - увеличиваются.

В режиме "покоя", при отсутствии внешних информационных воздействий в сети, подверженной равномерному случайному внешнему воздействию, если уровень возбудимости нейронов достаточно высок, должен идти процесс поочередной активации вторичных сетей (ансамблей), направленный на поддержание оптимального функционального состояния нейронов. На необученной сети последовательность активации ансамблей случайна. После обучения, при котором на сеть подавались регулярные последовательности входных информационных воздействий, при отсутствии внешних воздействий процесс становится не случайным - возникает тенденция возбуждения вторичных сетей в последовательности, определяемой обучением.

Описываемая модель активной нейронной сети ( $$А$$ -сети) имеет общие черты с моделью Хебба [20]. В качественной модели Хебба постулируется, что одновременно возбуждающиеся нейроны связываются в функциональные структуры - нейронные ансамбли. Последовательно возбуждающиеся структуры связываются в "фазовые последовательности". Эти процессы основываются на изменении связей между нейронами. Как спонтанная активация нейронного ансамбля или "фазовой последовательности", так и их активация внешним стимулом вызывают соответствующий образ или ощущение.

Все это может быть отнесено и к $$А$$ -сетям, но есть и важные принципиальные отличия. Нейроны в $$А$$ -сетях - это неустойчивые элементы, у которых изменяется функциональное состояние, а соответственно и возбудимость, в зависимости от интенсивности срабатываний. Это свойство нейронов является определяющим. Все, что происходит в $$А$$ -сетях, как на стадии обучения, т. е. в процессе изменения связей между нейронами, формирования нейронных ансамблей, формирования связей между ансамблями и т. д., так и на стадии работы, включающей воспроизведение результатов обучения, - все это должно подчиняться одному критерию - оптимизации функционального состояния нейронной сети. Из этого вытекают важнейшие свойства нейронной сети - синергичность и активность.

Логическая емкость приведенной выше схемы ассоциативных временных взаимодействий невысока, поскольку в этой схеме учитываются только смежные парные взаимодействия. Например, если входные информационные воздействия соответствуют буквам алфавита и система обучается путем подачи на вход последовательностей букв из разных текстов, то очень быстро зафиксируются почти все возможные парные сочетания и временных ассоциаций практически не будет. И тем не менее парные ассоциации по смежности во времени могут играть свою важную роль для предвидения повторяющихся в определенной фиксированной последовательности событий или ситуаций.

В гипотетической полной нейронной модели среды должны быть уровни иерархии. Предполагается, что на каждом уровне иерархии должны строиться укрупнения и обобщения объектов (ситуаций), представленных в виде нейронных ансамблей более низкого (более конкретного) уровня. На каждом уровне укрупнения нейронной модели помимо объектов и ситуаций в виде нейронных ансамблей должны представляться также и действия, определяющие переходы между ситуациями. Действия, как и объекты, должны иметь иерархически организованные степени обобщения и укрупнения.

Предполагается, что возбуждения, приходящие на нейроны каждого уровня иерархии, порождаются другими нейронами этого уровня, либо объектами другого уровня, либо информацией, поступающей от сенсорного входа. Принципиальных отличий между нейронами и структурой сети разных уровней иерархии быть не должно, хотя, конечно, могут быть и, скорее всего, должны быть различия в количественных характеристиках предполагаемых свойств и функциональных зависимостей.

Следует отметить, что входной слой любого уровня иерархии не отождествляется с рецепторным, например, с сетчаткой глаза, хотя в частном случае такое отождествление возможно. В общем случае точки на входном слое какого-то уровня иерархии возбуждаются при активации информационных элементов другого уровня иерархии. Например, в такой модели кроме уровня букв будет и уровень слогов, уровень слов, а возможно, и/ или другие уровни иерархии, отражающие семантику проблемной среды.

Экстраполяция регулярных временных последовательностей в иерархической модели среды, содержащей уровни различной степени укрупнения, должна быть значительно лучше, чем в отдельном конкретном уровне, поскольку, поднимаясь в модели по иерархии часть-целое, чаще можно приходить к эффективным парным ассоциациям. Так, если временные ассоциации между почти любыми парами входящих в слова букв приблизительно равновероятны, то временные ассоциации между парами разных слов, тем более с учетом синтаксиса, а может быть, и семантики более высокого уровня, чаще всего сильно отличаются.

Однако в каких-то случаях парные ассоциации по смежности во времени даже в многоуровневой модели среды могут быть недостаточны.

Все формальные модели нейронных сетей - модель Мак-Каллока и Питтса, перцептрон Розенблатта, признаковые распознающие нейронные сети и рассмотренные модели активной нейронной сети - обладают общим свойством: задержки при передаче возбуждающих и тормозящих сигналов по связям отсутствуют. Точнее, задержки по всем связям одинаковы и равны одному такту. Такое свойство нейронных моделей плохо согласуется с данными нейрофизиологии.

В реальных нейронных сетях время передачи сигналов по связям варьируется в широких пределах. Скорость передачи сигналов по различным нервным волокнам может составлять от 1 до 100 метров в секунду. Точно так же широко варьируются и длины связей. Естественно предположить, что время учитывается в логике работы нейронной сети. Более того, можно полагать, что на временном аспекте строится логика работы некоторых нейронных механизмов.

Схема распознавания и воспроизведения временных последовательностей, обладающая существенно большими возможностями, чем связь по смежности во времени появления между парами событий, рассматривается в следующей лекции. В основе схемы лежит включение в логику работы сети временных задержек при передаче сигнала. Задержки используются как при обучении, так и при формировании опережающего возбуждения, т. е. предвидения, в зависимости от временной предыстории внешних воздействий.

Выводы

Рассмотренные в лекции "активные" нейронные сети имеют в основном иллюстративный смысл. Иллюстрируют они возможность построения активных синергичных "живых" моделей нейронных механизмов мозга. Эта возможность возникает, во-первых, в результате введения в модели свойства накопления неустойчивости, выражающегося в ухудшении функционального состояния и изменении порога возбудимости у несрабатывающего нейрона. Во-вторых, свойства нейронов и связей между ними выбираются так, чтобы обеспечивать оптимизацию функциональных состояний отдельных нейронов во взаимосодействии и, как следствие, оптимизацию функционального состояния сети в целом.

Все остальные постулаты о структуре сети, конкретных свойствах нейронов и связей между нейронами не имеют обязательного характера. Варьируя эти постулаты и зависимости, можно получить другие и, может быть, гораздо более интересные экспериментальные результаты.

В сетях с изменяющимся функциональным состоянием нейронов были экспериментально получены и некоторые не рассмотренные нами иллюстративные режимы. Это, например, модель режима образования и разрушения "сонных веретен" электроэнцефалограммы млекопитающих и модель режима управляемой залповой авторитмической активности.