НОУ ИНТУИТ | Инструктивный синтез нанометровых вычислительных структур. От задач к вычислительным моделям и структурам . Лекция 9: Нейроподобные модели как формально-логический базис анализа живых систем

Учитесь и получайте официальные документы БЕСПЛАТНО. Вы можете поддержать наш проект.

Регистрация Вход

Твой путь к знаниям!

Опубликован: 03.04.2013 | Доступ: свободный | Студентов: 354 / 30 | Длительность: 34:17:00

Темы: Искусственный интеллект и робототехника, Программное обеспечение, Нанотехнологии

Специальности: Разработчик аппаратуры

Теги: наноэлектроника, нейрокомпьютеры, нейроны, отказоустойчивость, нейрокибернетика

|

Вам нравится? Нравится 21 студенту

| Поделиться |

Поддержать курс

| Скачать электронную книгу

Разобьем все множество реализуемых ранготроном булевых функций на два класса:

задающие, в которых параметр г соответствует номеру базовой позиции линии задержки ( $\tau_ф = \tau_{\delta}$ ), по отношению к которой вычисляется текущее значение $R_{\tau}(T)$ ;
сателлитные, для которых $\tau_ф\ne\tau_{\delta}$ .

В нашем примере задающие булевы функции те, у которых $\tau_ф = 0$ :

$F_{7}(x_{2}, x_{1}) = x_{2}+x_{1}$ ; $F_{3}(x_{2}, x_{1}) = x_{2}$ ; $F_{1}(x_{2}, x_{1}) = x_{2}*x_{1}$ , а остальные реализуются как сателлитные.

Ослабим требование "цикличности" смещения $\{ X_{2}^{s}\}_N$ по $\{X _{2} ^{s}\}_{\infty}$ , увеличим размер "скользящего окна" N > Q+1 и будем считать, что в любой момент времени $T \ge T_{0}$ оно содержит полный набор входных векторов $\{X_{2} ^{s}\}$ , часть из которых повторяется. В этом случае нарушается только монотонный характер изменения лексикографического ранга, но отношение порядка в последовательности рангов остается неизменным и по-прежнему $R( X^{0}_{2})<R(X^{1}_{2})<R(X^{2}_{2})<R(X^{3}_{2})$ . Повторяемость входных векторов в "скользящем окне" приводит к флуктуациям ранга одного и того же входного вектора на интервале времени $\Delta Т$ , в результате чего теряется однозначность реализации даже задающей булевой функции: $F_{\alpha} : X^s_2 \to \{ b_j \}$ . В таких условиях адаптация порогового вектора в (8.15) позволяет избавиться от неоднозначностей только при реализации задающих булевых функций, а сателлитные булевы функции реализуются в форме стохастического конечного автомата [221].

Простейшая ранготронная сеть содержит (рис. 8.9) два слоя двух-входовых булевых ранготронов, объединенных матричным коммутатором, формирующим все парные комбинации выходов двух (внешних) линий задержки. Здесь верхний индекс "внутренней" переменной сети (y) отражает принадлежность к выходу ранготрона 1-го слоя, а нижний - к выходу линии задержки, по которой эта переменная распространяется по сети.

Время внутренней задержки ( $\tau^{c}$ ) будем называть задержкой на формирование выходной реакции -го ранготрона (эквивалент латентного периода реального нейрона), а время внешней задержки ( $\Theta^c$ ) - задержкой на распространение реакции -го ранготрона по сети (эквивалент периода рефрактерности аксонно-коллатерных связей реальных нейросетей). В нашем случае матричный коммутатор реализует комбинации $(\Theta^{0}, \Theta^{1})$ задержек распространения, формируя значения входных векторов для ранготронов второго слоя сети в соответствии с матрицей $||\Theta^{0}, \Theta^{1}||$ (табл. 8.7).

Рис. 8.9. Структура ранготронной сети

Таблица 8.7. Матрицы функционирования ранготронной сети
$\|\|(\Theta^0, \Theta^1)\|\|$
$\Theta^0 \setminus\Theta^1$	0	1	2	3	$\tau_ф\setminus\tau_{\delta}$	0	1	2	3	$\tau_ф\setminus\tau_{\delta}$	0	1	2	3
0	(0,0)	(0,1)	(0,2)	(0,3)	0	$F_{7}$	$F_{11}$	$F_{13}$	$F_{14}$	0	$F_{3}$	$F_{9}$	$F_{12}$	$F_{6}$
1	(1,0)	(1,1)	(1,2)	(1,3)	1	$F_{14}$	$F_{7}$	$F_{11}$	$F_{13}$	1	$F_{6}$	$F_{3}$	$F_{9}$	$F_{12}$
2	(2,0)	(2,1)	(2,2)	(2,3)	2	$F_{13}$	$F_{14}$	$F_{7}$	$F_{11}$	2	$F_{12}$	$F_{6}$	$F_{3}$	$F_{9}$
3	(3,0)	(3,1)	(3,2)	(3,3)	3	$F_{11}$	$F_{13}$	$F_{14}$	$F_{7}$	3	$F_{9}$	$F_{12}$	$F_{6}$	$F_{3}$

$\tau_{\delta}^0\setminus\tau_{\delta}^1$			0			1			2			3
0			$(F_{7},F_{3})$			$(F_{7},F_{6})$			$(F_{7},F_{12})$			$(F_{7},F_{9})$
1			$(F_{14},F_{3})$			$(F_{14},F_{6})$			$(F_{14},F_{12})$			$(F_{14},F_{9})$
2			$(F_{13},F_{3})$			$(F_{13},F_{6})$			$(F_{13},F_{12})$			$(F_{13},F_{9})$
3			$(F_{11},F_{3})$			$(F_{11},F_{6})$			$(F_{11},F_{12})$			$(F_{11},F_{9})$

Базовая задержка $\tau_{\delta}$ влияет на работу ранготрона и всей ранго-тронной сети следующим образом. Зафиксируем $\tau{\delta} = 1$ . Тогда в соответствии с (8.14) матрица $||X_{2}^{s}||$ порождает последовательность $R_{1}(T = 0) = 1$ ; $R_{1}(T = 1) = 0$ ; $R_{1}(T = 2) = 3$ ; $R_{1}(T = 3) = 2$ и так далее в цикле начиная с $R_{1}(T = 0) = 1$ .

В этом случае согласно (8.16) ранготрон реализует булевы функции:

Повторив эту процедуру для $\tau_{\delta} = 2$ и $\tau_{\delta} = 3$ , получим матрицу || F( 1) || (см. табл. 8.7) циклических сдвигов булевых функций, реализуемых ранготроном. В этой матрице главная диагональ по определению образована задающей булевой функции ( $\tau_{\delta} = \tau_ф$ ), а сателлитные булевы функции циклически смещаются в зависимости от значения базовой задержки. Проделав аналогичную процедуру для системы решающих правил (8.17), получим матрицу || F(2) || (см. табл. 8.7).

Пусть нулевой ранготрон первого слоя сети рис. 8.9 работает согласно ||F(1)|| , реализуя $F_{\alpha}( x_2, x_{1} )$ , а первый ранготрон этого же слоя работает согласно || F(2) || , реализуя $F_{\alpha}( x_4,x_3)$ . Тогда при фиксированных $\tau^0_ф = \tau^{1}_ф = 0$ и варьируемых значениях $(\tau^{0}_{\delta} , \tau^1_{\delta})$ образуется матрица комбинаций ||F(1), F(2) || булевых функций (см. табл. 8.7), а смещение базы $\tau_{\delta}$ в линии внутренней задержки ранготрона обеспечивает временную (в данном случае циклическую) перестановку реализуемых им булевых функций. Здесь верхний индекс связан с номером ранготрона в соответствующем слое сети. Независимая вариация смещений $\tau_{\delta}$ у ранготронов предыдущего слоя сети обеспечивает формирование различных пар "внутренних" переменных на входах ранготронов последующего слоя сети, так как матричный коммутатор создает все пары $(\tau^0_{\delta}, \tau^{1}_{\delta})$ , для которых определены матрицы типа ||F(1),F(2)|| .

Можно убедиться [252], что вариации $(\tau^{0}_{\delta} , \tau^1_{\delta})$ перемещают задающую булеву функцию всей сети $F_{\alpha}(X_{4} ^{s})$ на любой ее выход, так как организованная по принципу "каждый с каждым" ранготронная сеть носит пространственно-временной характер.

Ранготронная сеть может работать и в асинхронном режиме [252], что ослабляет требование принадлежности (в любой момент времени $T \ge T_{0})$ полного набора входных векторов $\{X^{s}_n\}$ "скользящему окну" $\{X^{s}_n\}_N$ . В этом случае вычисление ранга $R_{\tau}$ необходимо продолжать до тех пор, пока через ранготрон не пройдет полный набор $\{ X_n^s \}$ . Поэтому в асинхронном ранготроне появляется нестабильный латентный период, который определяется варьируемым временем накопления ранга.

Отсюда, отсутствие у существующих моделей функционально значимого латентного периода и периода рефрактерности исключает фактор влияния внутренней активности отдельных нейронов на физиологически важную функцию пространственно-временной интеграции входных возмущений во всей нейросети [25].

В пределах одного поведенческого акта морфология реальной нейросети достаточно стабильна, а сама сеть, вообще говоря, не ориентирована направлении от определенного (под)множества входов $\{ X^s_n \} (n << m )$ к какому-то определенному набору -выходов. В таких условиях зависимость пространственно-временного положения булевой функции от соотношений $(\tau^{0}_{\delta} , \tau^1_{\delta})$ является важным фактором управления нейрональной сетью, в которой активность каждого нейрона проявляется в том, что адекватная входному воздействию $\{ X_n^s \}$ реакция нейросети существенно зависит от выбора в каждом из них базовой позиции во входной последовательности. При этом выбор $\{\tau^{0}_{\delta} , \tau^1_{\delta}\}$ определяется не только внешними, но и внутренними факторами, требующими скоординированной субней-рональной активности по крайней мере подмножества нейронов сети, обеспечивающих отображение $F_{\alpha}: X^{s}_{2}\to\{ b_{j} \}$ .

Из приведенных данных также следует, что принятая у современных исследователей оценка эффективности работы нейрокомпьютера измеряется количеством коммутаций/c [170, 255], но она имеет мало общего с реальными нейросетями, где эффект групповой (пере)коммутации промежуточных переменных играет более важную роль, чем частные пересылки данных, так как такой эффект является одним из существенных механизмов синтеза целенаправленных поведенческих актов, направленных на удовлетворение доминирующей мотивации [25, 249].

Таким образом, ранготрон и сети на его основе:

Позволяют исследовать механизмы, более адекватные по своим мор-фофункциональным свойствам реальным нейронам и нейронным ансамблям, чем предшествующие модели формальных нейронов.
Существенно используют входную неоднозначность, связанную с временем задержки на формирование и распространение промежуточных переменных сети. В результате ранготронная сеть обладает качественно новым свойством группового управления пространственно-временным положением выходных реакций неориентированной нейросети.
Являются статистически неустойчивыми в том смысле, что на их выходах могут присутствовать сателлитные булевы функции с явно стохастическим характером отображения $F_{\alpha} : X_{2}^{s} \to \{b_{j} \}$ для разных значений . Поэтому настройка ранготронной сети состоит в том, чтобы скоординированно по времени и пространству получить на ряде "биологически важных" выходов сети спектр задающих булевых функций, определенных на произвольных подмножествах $\{X_{n}^{s} \}$ из $\{X_{m}^{s} \}$ , где .
Неиспользуемые в традиционных моделях факторы задержки на формирование выходной реакции нейрона и на ее распространение по нейросети создают качественно новые возможности и для распараллеливания вычислений за счет одновременного соотнесения реакции выхода произвольному вектору, поступившему на вход за время задержки, и для управления сетью нейроподобных элементов.

При этом следует помнить, что варьируемое время задержки в ранготроне и ранготронной сети отражает не саму избирательную биологическую или физиологическую активность, а только ее интегральные последствия.

" Нечисленная " идентификация и голографический принцип системной организации процессов жизнедеятельности. Биологические процессы соподчинены законам физики, по которым функционируют эволюцион-но более ранние нелинейные неравновесные системы. Поэтому управление несколькими тысячами сопряженных химических реакций с множеством глубоких обратных связей, поддерживающих метаболизм только одной клетки, представляет собой задачу, практически неразрешимую строгими формальными методами. В таких условиях полуэмпирическую схему инструктированного синтеза на основе формально-логической конструкции "если…, то…" можно считать уникальной возможностью повышения сложности биологических систем без потери их управляемости. Основные достоинства такой схемы инструктированного синтеза макромолекул нативных белков:

она поддерживает найденное эмпирическим путем корректное сопряжение фиксированной совокупности нелинейных и неравновесных химических реакций, которое можно осуществить при фиксированном комплексе метастабильных внешних условий; при этом поиск и отбор самих нелинейных и неравновесных химических реакций производится флуктуационными методами и средствами формирования диссипативных структур;
она позволяет без потери информативности включать химические реакции-предшественники в качестве самостоятельных единиц, сопрягаемых химическими реакциями-наследниками, что воспринимается и как иерархия управления биологическими объектами возрастающей сложности, и как иерархия организации памяти живых систем.

Требование сохранности информации, заложенной в субстрат нижнего уровня иерархии, можно удовлетворить, если перейти к структурно-параметрическим методам и средствам хранения и преобразования информации [256]. В этом случае память представляет собой структурно-функциональное образование ассоциативного типа, которое не только хранит, но и преобразует информацию, что согласуется с голографическим принципом системной организации процессов жизнедеятельности К.В. Судакова [250]. Согласно этому принципу, потребность выступает в качестве опорной волны, которая формируется на основе доминирующей мотивации и выступает в качестве акцептора результатов действия, по П.К. Анохину [25]. Предметная волна по аналогии с физической голограммой формируется под воздействием результатов поведенческого акта и интерферирует с опорной волной на разных уровнях иерархии [ 250]:

на клеточном уровне под воздействием сигналов о потребности происходит экспрессия эффекторных специфических белков, которые управляют ростом, дифференцировкой клеток и их метаболизмом, направленным на опережающее устранение возникшей потребности;
на межклеточном уровне многочисленные биологически активные вещества (белковые молекулы, гормоны, олигопептиды и так далее) взаимодействуют с мембранами клеток, образуя второй уровень голографического экрана;
на уровне структур мозга голографический экран поддерживается взаимодействием коллоидов глии с молекулами ДНК и РНК отдельных нейронов.

Из приведенных данных следует, что между физической голографией с одной стороны и молекулярно-биологической и физиологической голографией с другой стороны имеется принципиальное отличие. В физических голограммах информация кодируется параметрами сигналов, а в молекулярно-биологических голограммах информационные процессы на всех уровнях иерархии организма и его нервной системы поддерживаются структурно-параметрическими методами и средствами, которые невозможно осуществить без инструктированного синтеза субстратов, участвующих в метаболизме клеток и нейронов.

Это отличие приводит к тому, что расширение емкости физической голографической памяти за счет ее иерархической организации достигается только при определенных ограничениях на допустимую структуру связей нижнего уровня. В частности, в оптических вычислителях на произвольно коммутируемых через голографическую память вентильных матрицах [228] отличают пространственно-переменные и пространственно-инвариантные (однородные) связи. Чтобы обеспечить произвольный доступ к каждому из вентилей матрицы в первом случае требуется база, пропорциональная $M^{2}$ . Под базой понимается произведение пространственной протяженности оптического вентиля на ширину полосы частот реализуемого Фурье-преобразования (рис. 8.10).

Из-за ограничений устройств записи база голограммы в тот период времени позволяла управлять произвольной коммутацией между $M\sim 10^{4 }$ оптическими вентилями. При пространственно-инвариантной организации связей схема соединения вентилей фиксирована и поэтому база пропорциональна , что позволяло создавать голографически управляемые матрицы из $M\sim 10^{8}$ оптических вентилей. Отсюда, поднять на 4 порядка информационную емкость физической голограммы удалось только за счет перехода к однотипным структурам связей, что резко ограничило выбор возможных архитектур оптических процессоров. Поэтому в качестве компромисса была предложена гибридная схема организации голографической памяти (см. рис. 8.10), в которой на нижнем уровне иерархии пространственно-инвариантные связи поддерживались между $M_{1}\simeq50$ вентилями, образующими ячейки с пространственно-переменными связями между собой. В совокупности это позволило довести размер управляемой матрицы до $M\sim10^{7}$ оптических вентилей.

увеличить изображение
Рис. 8.10. Иерархическая организация голографической памяти

При структурно-параметрической организации памяти иерархия позволяет практически неограниченно наращивать ее емкость с сохранением информативности. Этот эффект достигается за счет того, что на каждом уровне иерархии принадлежащий ему молекулярно-биологический субстрат можно рассматривать как независимый носитель структурно закодированной информации. В частности, исходный, абстрактный молекулярный субстрат рисунок6 при подаче на их входы одиночного возбуждающего импульса воспроизводит на выходах двоичные последовательности вида: 10001011 (рис. 8.11-а) и 01010001 (рис. 8.11-б).

Эти последовательности можно интерпретировать как целые числа 139 и 81, если считать, что младший значащий разряд расположен справа и появляется на выходе с задержкой на 5 и 4 такта соответственно. В вычислительной технике симметричное, последовательное соединение исходного "субстрата" синтезирует "продукт" (рис. 8.11-в), который реализует преобразование $81*2^{8}+139 = 20875$ , порождающее с 8 такта последовательность вида 101000110001011 .

В реальном метаболизме последовательное соединение исходного субстрата не может произойти без изменений их пространственной структуры, что приведет к формированию новой двоичной последовательности. В частности, при асимметричном соединении исходного субстрата (рис. 8.11-г) синтезированный "продукт" реализует преобразование 139*81+64 = 11323 , которому на верхнем выходе соответствует двоичная последовательность вида 10110000111011 (начиная с 9 такта). При этом в асимметричной структуре можно сохранить в неизменном виде только множимое, то есть операнд 139, который появится на нижнем выходе начиная с 15 такта.

Отсюда, в реальных условиях для воспроизводства информации, структурно представленной в исходном субстрате, необходима деструкция продукта, соразмерная с условиями его синтеза, что предполагает

увеличить изображение
Рис. 8.11. Структурно-параметрическая память

глобальную обратимость метаболических процессов нейронов. При этом следует учитывать [256], что реакция структурно организованной памяти зависит от возбуждающего сигнала, который может быть и не единичным, а интерпретация выходной двоичной последовательности, как и у ранготрона, зависит от начальной задержки. В частности, если интерпретировать результаты возбуждения одиночным импульсом исходного субстрата не с 5 и 4 тактов, а с 4 и 3 соответственно, то выходные последовательности примут вид 100010110 (рис. 8.11-а) и 010100010 (рис. 8.11-б), что соответствует числам 278 и 162 . Поэтому в живых системах должны быть механизмы, устраняющие или ослабляющие подобного рода неоднозначные реакции памяти, что и создает предпосылки для активного восприятия и отображения организмом конкретных внешних и внутренних событий.

Информационный базис "нечисленной" идентификации связан с алгоритмической теорией измерений А.П. Стахова [37], в рамках которой проводится принципиальное различие между шенновской и измерительной неопределенностью. Первая характеризует неопределенность отбора измеряемой величины из множества возможных, что типично для условий подготовки эксперимента. Вторая характеризует незнание "индивидуального" значения величины, уже отобранной для измерения. Неопределенность первого типа можно оценить комбинаторной мерой количества информации [51] $I = log_{2}N$ , с помощью которой достаточно просто определяется количество бит, необходимых для передачи и хранения известного сообщения. В нашем случае знание количества бит позволяет выбирать систему "гирь", покрывающую нужды "нечисленной" идентификации, проводимой с помощью рычажных весов. Здесь считается, что идентифицируемый объект принадлежит конечному множеству $\{X\}$ из неповторяющихся элементов, и поэтому "информационная энтропия" выбора объекта равна $H(x) = log_{2}N$ . Отсюда, выбрав конкретный объект идентификации x = a , мы снимаем эту неопределенность, то есть сообщаем "информацию" . На втором этапе производится снятие "индивидуальной" неопределенности, которое состоит в заполнении I бит "нулями" и "единицами" в зависимости от результатов многошаговой процедуры сравнения, которая является детерминированной и состоит в последовательных замещениях более "тяжелых гирь" суммой более "легких гирь", если чаша с "гирями" перетягивает чашу с идентифицируемым объектом [37]. В итоге формируется индивидуальный -битный код однозначно идентифицированного объекта.

" Нечисленная " идентификация и " системоквант " поведения. Принцип опережающего отражения действительности П.К. Анохина [25] лежит в основе приспособительной деятельности организма к повторяющимся событиям внешней среды, которые образуют пространственно-временной

континуум. При этом активность организма в обучении вообще и в выработке условных рефлексов в частности как раз и состоит в событийной дискретизации непрерывного потока и в установлении в нем достаточно условных "причинно-следственных" связей, которые обеспечивают опережающий запуск биологических и физиологических механизмов и гарантируют тем самым достижение полезного приспособительного эффекта. Именно гипербольшое количество альтернатив, обеспечивающих однозначный, но не взаимно однозначный переход от непрерывного к дискретному пространственно-временному потоку событий, создает необходимые условия активного взаимодействия живых систем с окружающей средой. Такой неоднозначный переход в пределе граничит с волюнтаризмом, но тем не менее, он предопределяет гипербольшое многообразие форм приспособительной деятельности различных организмов и даже особей в одних и тех же внешних условиях.

В технике дискретизацию непрерывных во времени процессов осуществляют согласно теореме Котельникова $\Delta T_{k} = 1/(2F_{m}+1)$ , которая связывает период равномерной дискретизации $\Delta T_{k}$ с максимальной частотой гармонических колебаний $F_{m}$ в спектре преобразуемого сигнала, что гарантирует взаимно однозначный переход от непрерывного к дискретному.

В живых системах цель дискретизации совершенно иная и состоит в нахождении баланса между нелинейными авторегуляторными (автокаталитическими) механизмами самоорганизации и механизмами инструктированного синтеза и управления. На физиологическом уровне нелинейные авторегуляторные механизмы предполагают наличие функциональных систем, поддерживающих их устойчивость. Поэтому "системоквант" [25] физиологического поведения не может быть постоянным во времени, так как должен обладать атрибутами целостного поведенческого акта, выраженными "языком" соответствующего уровня самоорганизации. Сопряжение "системоквантов" более низкого уровня иерархии в организме и в его нервной системе можно осуществить с помощью более простых механизмов "нечисленной" идентификации, запускающих цепочку "системоквантов", которые и формируют поведенческий акт более высокого уровня иерархии.

Дальше >>

Авторизоваться

Инструктивный синтез нанометровых вычислительных структур. От задач к вычислительным моделям и структурам

Нейроподобные модели как формально-логический базис анализа живых систем

Вопросы и ответы