Когнитрон
Структура сети
Когнитрон состоит из иерархически связанных слоев нейронов двух типов — тормозящих и возбуждающих. Состояние возбуждения каждого нейрона определяется суммой его тормозящих и возбуждающих входов. Синаптические связи идут от нейронов одного слоя (далее слоя 1) к следующему (слою 2). Относительно данной синаптической связи соответствующий нейрон слоя 1 является пресинаптическим, а нейрон второго слоя — постсинаптическим. Постсинаптические нейроны связаны не со всеми нейронами 1-го слоя, а лишь с теми, которые принадлежат их локальной области связей. Области связей близких друг к другу постсинаптических нейронов перекрываются, поэтому активность данного пресинаптического нейрона будет сказываться на все более расширяющейся области постсинаптических нейронов следующих слоев иерархии.
Вход возбуждающего постсинаптического нейрона (на рис. 13.1 —
нейрон 
) определяется отношением суммы 
его
возбуждающих входов
( 
, 
и 
) к сумме 
тормозящих входов ( 
и вход от
нейрона 
):
где 
— возбуждающие входы с весами 
, 
— тормозящие входы с
весами 
Все веса имеют положительные значения. По значениям и вычисляется суммарное воздействие на -й нейрон: 
Его выходная активность 
затем
устанавливается
равной 
, если 
В противном случае
выход
устанавливается равным нулю. Анализ формулы для суммарного воздействия
показывает, что при малом торможении оно равно разности
возбуждающего и тормозящего сигналов. В случае же, когда оба эти сигнала
велики, воздействие ограничивается отношением. Такие особенности
реакции соответствуют реакциям биологических нейронов, способных
работать в широком диапазоне воздействий.
Пресинаптические тормозящие нейроны имеют ту же область связей,
что и рассматриваемый возбуждающий постсинаптический нейрон 
Веса
таких тормозящих нейронов ( 
, 
и 
) являются заданными и не
изменяются при обучении. Их сумма равна единице, и таким образом, выход
тормозного пресинаптического нейрона равен средней активности
возбуждающих пресинаптических нейронов в области связей:
