Нейросетевые самообучающиеся и адаптивные системы управления

Нейросетевой метод "бесформульных" вычислений

Логическая нейронная сеть, имитирующая "бесформульное" ассоциативное мышление, строится на основе логического описания системы, которую в самом общем применении следует назвать системой принятия решений. Ее основой является воспроизведение записей вида "если ... то", "посылка ... следствие".

На основе аналога "электронной" схемы функционирования системы производится переход от булевых переменных, задающих события, к действительным, соответствующим достоверности высказываний о событиях. Таким образом, исходная информация формируется на основе достоверности принадлежности данных объектам, значениям или диапазонам значений. Логические элементы заменяются образами нейронов – простейшими пороговыми функциями активации. Применение аппарата логических функций и исчерпывающих множеств событий позволяет, без рассмотрения обратных связей, максимально упрощать структуру логических нейронных сетей, сводя их к однослойным. В этом случае логическая нейронная сеть представляет базу знаний, отображающую опыт. В ней известные ситуации непосредственно связаны с известными принимаемыми по ним решениями или предварительно найденными результатами сложных расчетов. Опыт учитывается в режиме обучения – построения нейросети. В рабочем режиме возникшая ситуация приближенно отображается возбуждением рецепторов, и по характеру возбуждения нейронов выходного слоя, в результате выполнения ими функции активации, принимается решение – наиболее близкое или усредненное. Так осуществляется ассоциативное мышление.

Рассмотрим пример сложных вычислений, близких к табличным, но легко допускающих любую размерность исходных данных и результатов, а также дополнение и модификацию (рис.6.1).

По компонентам вектора-ситуации, предъявленного в рабочем режиме, формируется возбуждение рецепторов. Простейший способ такого возбуждения заключается в распределении "единицы" обратно пропорционально разности значения компоненты с ближайшими двумя ограничивающими точками. При значительной неопределенности исходных данных можно имитировать нормальный закон распределения достоверности их принадлежности нескольким значениям, за которыми закреплены рецепторы. Далее считается значение функции активации всех нейронов выходного слоя. Простейшая, рекомендуемая для этих целей, функция активации имеет вид:

$$V:=\frac {1}{n} \sum \limits_iV_i;\ V:=ifV \ge h\ then\ V\ else\ 0;\ n\ - \ количество\ активных\ входов\ нейрона$$

Здесь $$V_i$$ – величина возбуждения рецептора, подаваемая на вход нейрона.

Максимально возбудившийся нейрон указывает на решение. Однако если компоненты решения целые или действительные числа, то может быть произведено усреднение этой компоненты по нескольким возбудившимся нейронам.

Рецепторы могут закрепляться не только между значениями переменных, для которых известен опыт, но и между диапазонами их изменения.

Универсальность такого приема реализации ассоциативного мышления в силу тривиальности на логическом (но не на биологическом) уровне, по-видимому, служит основой управления и мышления в живой природе. Этот принцип лежит в основе моделирования для различных приложений. Привлекательность метода логических нейронных сетей – в достижении высокой реальной производительности при решении задач (по сравнению с традиционными "алгоритмическими" методами), возможность широкого распараллеливания (подобно мозговым процессам), возможность создания простого и универсального интерфейса пользователя, допускающего широкие возможности эксперимента, модификации, смены специализации и т.д.

Самообучение на основе ситуационного управления

Для трудно формализуемых задач управления или для увеличения производительности вычислительных средств известно т.н. ситуационное управление , предложенное Д.А. Поспеловым [4]. Оно заключается в том, что для каждого значения вектора, описывающего сложившуюся ситуацию, известно значение вектора, описывающего то решение, которое следует принять. Если все ситуации отразить невозможно, должно быть задано правило интерполяции (аналог интерполяции, обобщенная интерполяция).

Таким образом, наметилась та же схема вычислений, что была рассмотрена выше. На основе известных решений, соответствующих складывающимся ситуациям, формируется база знаний (БЗ). Работа с БЗ требует механизмов ассоциативной выборки, в результате которой осуществляется необходимая интерполяция. Такие механизмы наилучшим образом реализуются с помощью логической нейронной сети. База знаний оказывается записанной в том же виде, что показан на рис.6.2.

Как же реализовать самообучение БЗ, то есть ее обучение и развитие на основе опыта эксплуатации?

Далеко не всегда будет правильным развитие базы знаний только на основе ошибочного принятия решений. "Учение на ошибках" может привести к трагедии (или к частному срыву процесса управления), особенно на этапе обучения системы. Обучение системы целесообразно проводить на достаточно точной модели, максимально использующей точный расчет компонент решения. Применение модели используется не только на специально предусмотренном этапе обучения системы, но и вне реального цикла управления, т.е. когда система работает в режиме дежурства, параллельно с функциональным контролем. Алгоритм ее работы представлен на рис.6.2.

Нейросетевое воплощение

Мы уже построили нейросеть для важной задачи принятия решений и вручили ее Заказчику — дяде Рамзаю. Однако, задумчиво глядя в синее небо под бодрящий рокот набегающей волны теплого течения Гольфстрим, мы не можем прогнать мыслей об обобщениях, вариациях и применениях…

Итак, еще раз тщательно проследим принцип динамического совмещения процесса обучения системы управления с процессом выдачи решений, изложенный выше, и установим в схеме на рис.6.2 целесообразность, место и способ использования нейронной сети как основного реального средства искусственного интеллекта. Прежде всего, мы понимаем, что основным естественным и целесообразным местом применения нейросети здесь является база знаний. Нам только надо позаботиться о том, чтобы "крутились" там не численные значения информации, а вес этой информации или ее достоверность. То есть, не сама информация должна обрабатываться нейросетью, а ее логический эквивалент. Ведь мы поняли, что принцип искусственного интеллекта направлен на параллельную обработку логических высказываний, а вовсе не ориентирован напрямую на числовую обработку информации, как это делается при решении некоторых "нейроподобных" задач при использовании нейросети в роли спецпроцессора.

Пусть нейросеть в роли базы знаний имеет текущий вид, представленный на рис.6.3.

Нейроны-рецепторы оказались закрепленными за значениями элементов входного вектора. Это значит, что в режиме обучения (или в процессе динамической корректировки) установилось соответствие на основе положения: "величина возбуждения данного p-го нейрона входного слоя принимает значение достоверности того, что $$x_i = x_i^{(p)}$$.

Как мы ранее делали, при обучении мы полагаем эту достоверность равной единице, а в процессе распознавания может быть что угодно, даже не удовлетворяющее свойству полноты событий.

Таким образом, "показывая" сети на этапе обучения различные эталоны, методом трассировки или непосредственно мы можем добиться установления соответствия вида $$\{Входы\ x_i\}$$ $$\to R_q$$, наполнив тем самым базу знаний. Каждое решение $$R_q$$ при этом тоже указывает на определенное значение вектора — результата $$Y_q$$, компоненты которого суть управляющие воздействия системы.То есть, нейроны $$R_q$$ фактически закрепляются за ситуациями, по которым мы знаем векторы характеристик или значений параметров принимаемых решений — векторы значений управляющих воздействий.

Как в этом случае задавать информацию на рецепторном слое при поступлении вектора-запроса $$X = \{x_1,..., x_m\}$$?

Для каждого $$х_i$$ найдем две "близкие" точки $$х_{i1}$$ и $$х_{i2}$$, которые представлены рецепторами нейросети и для которых выполняется соотношение $$х_{i1} < х_i < х_{i2}$$. Зададим возбуждение рецептора Вход $$х_{i1}$$ равным значению $$(х_{i2} - х_i) : (х_{i2} - х{i1})$$, а возбуждение рецептора Вход $$х_{i2}$$ – равным значению $$(х_i - х_{i1}) : (х_{i2} - х_{i1})$$.

Однако все или некоторые нейроны-рецепторы могут закрепляться не за конкретными значениями входных параметров, а за диапазонами их изменения, если это соответствует необходимой точности управления.

Для нахождения значений управляющих воздействий в зависимости от значений исходных данных может быть использовано моделирование, наряду с экспериментом или с экспертными оценками. Таким образом, модель, эксперимент или эксперт играют роль учителя. (Мы ранее уже высказали сомнение насчет существования и действенности "чистого" самообучения .) Отметим, что модель может быть основана на алгоритмах расчетного характера. Однако модель может, в свою очередь, воплощать методы искусственного интеллекта, реализуя, например, метод "проб и ошибок".

Первоначально обученная таким образом нейросеть может быть уже использована в рабочем режиме (распознавания) и в режиме совместной работы с моделью. При этом мы понимаем, что нейросеть обучена недостаточно, и, подобно пристрелке реперов "в свободное от работы" время, мы пытаемся с помощью модели испытать и, в случае необходимости, дополнить знания нейросети.

Для этого модель случайно или направленно — по обоснованному плану - "выбрасывает" некоторую ситуацию, характеризующуюся значением компонент входного вектора Х. По каждой компоненте определяется вес или достоверность того, что ее значение совпадает с подмножеством значений этой компоненты, представленных входным слоем нейросети, или с диапазонами значений этой компоненты.

Например, сеть "знает" реакцию на значение (опустим индекс) x = 2, x = 5, x = 6. Модель выбросила значение х = 5,7. Это может означать необходимость формирования значений возбуждения $$V_{x=2} = 0$$, $$V_{x=5} = 0,3$$, $$V_{x=6} = 0,7$$. Здесь индексы возбуждений указывают нейроны входного слоя, закрепленные за данным значением параметра. Так делается по всем компонентам входного слоя.

Не следует забывать, что в общем случае управляющая информация может выдаваться данными разных типов, не обязательно действительными или целыми. В частности, это может быть текстовая информация, содержащая исторические аналогии, рекомендации, инструкции или даже алгоритмы действий. Поэтому, если какие-то компоненты управляющего вектора допускают усреднение по нескольким векторам, на которые указывают нейроны со своими величинами возбуждения, то с помощью этих величин может быть произведено усреднение значений этих компонент. Например, пусть, "пройдя" по сети, возбуждение рецепторов привело к преодолению порога возбуждения нейронов выходного слоя R5 ($$V_{R5} = a$$), R7 ($$V_{R7} = b$$), R12 ($$V_{R12} = c$$). При этом нейрону R5 соответствует вектор численных (!) значений управляющих воздействий $$Y _5 = (y_1^{(5)}, y_2^{(5)}, …, y_n^{(5)})$$, нейрону R7 — вектор $$Y_7 = (y_1^{(7)}, …, y_n^{(7)})$$, нейрону R12 - вектор $$Y_{12} = (y_1^{(12)}, …, y_n^{(12)})$$. Тогда предполагаемый ответ нейросети находится:

Подставляем данное решение в модель и устанавливаем, удовлетворяет ли нас оно, — например, по величине промаха. Если удовлетворяет, мы делаем положительный вывод об обученности нейросети и продолжаем ее испытание по другим исходным данным. Если нет, — сеть необходимо "доучить", продемонстрировав самый высокий логический уровень обратной связи.

Для этого мы должны ввести в действие новые рецепторы, закрепив их за теми значениями исходных данных или их диапазонами, которые ранее не были представлены. Например, нам придется закрепить рецептор за значением х = 5,7 или за небольшим диапазоном, включающим это значение. Для сохранения однозначности решений этот диапазон необходимо исключить из других диапазонов, с которыми возникло пересечение.

Далее, мы должны выделить нейрон выходного слоя и закрепить его за соответствующим правильным решением, которое мы должны получить с помощью модели.

Далее, мы должны выполнить трассировку (или ввести связи "вручную") для того, чтобы задание нового эталона с единичной достоверностью исходных данных приводило к максимальному возбуждению выделенного нейрона выходного слоя, ответственного за получение правильного решения.

Таким образом, сеть может обучаться до тех пор, пока не перестанет давать "сбоев". А поскольку в вероятностном аспекте это вряд ли возможно, то в таком режиме она должна работать в течение всего жизненного цикла, реализуя известную пословицу "Век живи — век учись…".

Здесь наглядно представлена замечательная возможность нейросети: табличная аппроксимация функции многих переменных, снабженная процедурой интерполяции (экстраполяции) для нахождения по произвольному значению вектора-аргумента приближенного значения векторной функции. При этом входной вектор возбуждений рецепторов преобразуется в максимальное или усредненное значение возбуждения нейронов выходного слоя, указывающего на соответствующее значение вектора-функции. Так что практически столь простым способом мы построили постоянно уточняющуюся аппроксимацию векторной функции от векторного аргумента!

Логическая нейронная сеть может быть построена и обучена так, чтобы заданное значение $$Х = \{x_1,…,x_m\}$$ приводило к максимальному (или усредненному) значению возбуждения нейрона выходного слоя, указывающего соответствующее значение $$y_1$$, к максимальному (или усредненному) значению возбуждения другого нейрона выходного слоя, указывающего на значение $$у_2$$ и т.д. Выходной слой оказывается разбит на области, каждая из которых закреплена за своим параметром $$у_i, i =1,…, n$$. Тогда полученное преобразование можно условно записать $$X \to {Вых(у_1), Вых(у_2),…,Вых(у_n)}$$, как это показано на рис.6.4.

Следует обратить внимание не только на высокую производительность такого рода самообучающихся систем в рабочем режиме, но и на их адаптивность, развиваемость, живучесть и т.д.

Динамический выбор оптимальной стратегии распараллеливания в многопроцессорной вычислительной системе

Рассмотрим обобщенную адаптивную схему динамического оптимизированного распределения потока задач между процессорами в многопроцессорной вычислительной системе или в сегменте вычислительной сети (рис.6.5). Такая обработка характерна для Центра GRID-технологий. Критерием оптимизации является достижение максимальной загрузки процессоров или выделенных сетевых ресурсов, служащей максимальной пропускной способности используемых вычислительных средств [9]. В основе диспетчера, распределяющего поток запросов на решение задач, лежат несколько эвристических решающих правил , каждое из которых реализует некоторую стратегию распараллеливания. Решающие правила различаются по скорости реализации и по достигаемому эффекту в части статистических оценок обеспечения высокой пропускной способности. Выбор решающего правила и локализация его применения во времени зависят от характеристик потока запросов: от переменной плотности, от их типового состава, приоритета задач, частичной упорядоченности.

Организация динамического распараллеливания вычислений – диспетчирование является основным трудоемким и ответственным элементом построения управляемого вычислительного процесса в многопроцессорных вычислительных системах и вычислительных комплексах на основе сегментов ЛВС.

В этом случае задача диспетчирования становится трудно формализуемой. Оперативное управление текущим выбором стратегии необходимо производить с помощью логической нейронной сети, на рецепторный слой которой подаются текущие и пролонгированные характеристики потока запросов, а также текущие параметры состояния системы обслуживания. Нейроны выходного слоя максимальным возбуждением указывают на решающее правило , которым следует пользоваться в дальнейшем. То есть, максимально возбужденный нейрон выходного слоя инициирует запуск соответствующей процедуры распределения в составе диспетчера.

Адаптация обеспечивается возможностью перезакрепления решающих правил за нейронами и вводом в рассмотрение новых правил – по статистическим оценкам эффективности распределения (распараллеливания).

Рассмотренная схема легко развивается, модифицируется и специализируется.

Выделение неизменного состава характеристик, участвующих в принятии каждого решения, служит основой построения простейших по структуре совершенных логических нейронных сетей, где функция активации является аналогом конъюнкции и производит суммирование значений входных сигналов. Поскольку такая нейронная сеть является однослойной, то на деле реализуется простейшая схема "голосования" в пользу той стратегии, которая в наибольшей степени адекватна сложившейся ситуации – текущим характеристикам потока запросов и состоянию системы обслуживания.

При этом основная трудность диспетчирования заключается в частичной упорядоченности (во времени выполнения) работ, которая присуща системам управления в реальном времени.

Диспетчер распараллеливания входит в состав операционной системы компьютера и сам по себе увеличивает "накладные расходы" производительности на собственную реализацию во времени. Поэтому быстродействие диспетчера представляет важнейшее требование к нему.

Другим требованием, предъявляемым к диспетчеру распараллеливания, является достаточная близость формируемых им планов к точным оптимальным, полученным на основе решения задачи распараллеливания в адекватной постановке.

Дело в том, что решаемая диспетчером задача относится к важному классу задач исследования операций [9] – к классу задач параллельного программирования. Это задачи экспоненциальной сложности (NP-сложные задачи). Решение таких задач для множеств частично упорядоченных работ весьма трудоемко и никак не может быть положено в основу программ операционной системы компьютера. Поэтому прибегают к эвристическим методам полиномиальной сложности (Р-сложность) для оперативного, динамического распараллеливания. В основе таких методов можно выделить одно или более решающих правил , погруженных в алгоритм распараллеливания и обусловленных предпочтительным выбором альтернативы в ключевых ситуациях.

Применение каждого решающего правила при распараллеливании влечет различный объем вычислений – накладных расходов. Однако, как правило, увеличение сложности алгоритмов распараллеливания обусловлено попытками приблизить результаты планирования к точным оптимальным. Поэтому, по результатам достаточного опыта, можно считать, что более трудоемкий диспетчер статистически обеспечивает планы параллельного выполнения работ, более близкие к оптимальным.

При практическом решении задач распараллеливания ограничиваются однородными системами выделяемых средств (однородными вычислительными системами [9]), а различные подходы к диспетчированию отличаются вариантами единственного решающего правила .

По трудоемкости, а, следовательно, "по оптимальности", варианты решающего правила можно упорядочить:

В различных случаях применения эффективно используются и другие комбинации решающих правил 2, 3, 4.

Первое и второе решающие правила используются в динамических диспетчерах, предполагающих выполнение назначенных работ одновременно с дальнейшим планированием.

Третье и последующие решающие правила предполагают работу диспетчера вне времени выполнения назначенных работ: диспетчер разрабатывает план выполнения этих работ, затем этот план реализуется без включения диспетчера. Это обеспечивает плотную загрузку процессоров при выполнении работ и, следовательно, их скорейшее освобождение – переход в свободный ресурс.

Очевидно, что чем большим ресурсом времени обладает диспетчер в связи с "разреженным" потоком высокоприоритетных заданий при заданных директивных сроках выполнения, тем больше искушение использовать решающие правила для распределения этих заданий, приближающие результаты планирования к оптимальным. Ведь при этом достигается минимальное время выполнения совокупности взаимозависимых работ, плотно загружаются процессоры, выделяется время для фонового выполнения запросов с меньшим приоритетом. Это справедливо, если одновременное увеличение накладных расходов на планирование в совокупности с разработанным планом все же служит оптимизации параллельного вычислительного процесса, то есть, минимизации времени выполнения комплекса работ высокого приоритета.

С другой стороны, очевидно, что при плотном потоке заданий не высокого приоритета требование их оперативного распределения между вычислительными средствами заслоняет собой все другие требования к оптимизации вычислительного процесса. Становится не до оптимизации: ведь плотная загрузка всех средств и так гарантирована! В этом случае достаточно использовать простейшее решающее правило .

Таким образом, только на основе моделирования и опытных исследований, для достаточного числа точек факторного пространства – характеристик потоков заданий, их временных характеристик, директивных сроков их выполнения, требуемых ресурсов и состояния загрузки вычислительных средств, – можно получить ряд рекомендаций по применению решающих правил в диспетчере распараллеливания.

Так формируется основа логической нейронной сети, примерный вид которой приведен на рис.6.6. Связи устанавливаются на основе моделирования или опытных данных. Предполагается, что обслуживается высокоприоритетный поток задач оперативного планирования и управления (например, в системе реального времени), для которого резервирование вычислительных средств производится заранее с помощью диспетчера ресурсов.

Директивный срок Т определяется, как длина отрезка времени, через которое распределяемое множество частично упорядоченных работ должно быть выполнено обязательно. Ресурс директивного срока при планировании распараллеливания определяется как разность,

где $$n$$ – число выделенных процессоров,

$$m$$ – количество распределяемых работ.

На рисунке:

$$\Delta t_i$$ – усредненное по серии последних запросов время между запросами;

$$d_i =\Delta t_i -\Delta t_{i-1}$$ – аналог первой производной.

Таким образом, на рецепторном слое указывается принадлежность характеристик интервалам значений или значениям. Максимальное возбуждение нейрона выходного слоя (при высоком пороге) указывает на необходимость автоматического включения соответствующего решающего правила в диспетчер.

Возможность оптимизации совместной реализации запросов на выполнение нескольких частично упорядоченных работ предполагает частичное или полное накопление этих запросов (работ) в некотором "окне просмотра" диспетчера. Диспетчер с высокой частотой анализирует содержимое "окна просмотра", пытаясь "уложить" выполнение этих работ за минимальное время, не превышающее директивный срок Т. Время выполнения запросов, а также время работы диспетчера, измеряется условными единицами. Временные оценки известны заранее.

Пусть для выполнения работ выделены два процессора суперкомпьютера. Диспетчер реализован на управляющем процессоре – на HOST-процессоре.

В "окне просмотра" накопились работы, частичную упорядоченность (порядок следования) которых можно описать информационным графом (рис.6.7).

Пусть диспетчер использует решающее правило 1. Время его однократного выполнения составляет 1 у.е., Т = 13 у.е.

Тогда временная диаграмма выполнения комплекса работ представлена на рис.6.8.

Для диспетчера, использующего решающее правило 2, временная диаграмма выполнения того же комплекса работ на двух процессорах представлена на рис.6.9.

Временная диаграмма выполнения того же комплекса взаимосвязанных работ для диспетчера, реализующего решающее правило 4, при заданном директивном сроке окончания выполнения Т = 13 у.е., представлена на рис.6.10. Учтено, что время однократной работы диспетчера для двух выделенных процессоров составляет 3 у.е.

На основе результатов применения решающих правил 1, 2 и 4 в диспетчере можно сформулировать гипотезу экспертной рекомендации для записи связей (трассировки) в логической нейронной сети на рис.6.6. Для этого необходимо найти среднее время t выполнения работы, интенсивность потока запросов на отрезке [0, T] и ресурс директивного срока $$\Delta T$$. Интенсивность потока в примере принимается постоянной.

Такая гипотеза может быть следующей:

Для $$t\subset[3, 4], \Delta T \subset [2, 4], \Delta t_{i(1)} \subset [0,4, 0,5], d_{i(1)} \subset [0, 0,001]$$, и для двух процессоров следует считать предпочтительным применение в диспетчере решающего правила 2.

Ключевые термины

"Бесформульные" вычисления – вычисления, совершаемые не на основе счета значений арифметических выражений, а на основе ассоциативной выборки из базы знаний с возможностью усреднения близких результатов выборки.

Самообучение – производится в результате пополнения базы знаний новыми отношениями вида "если – то", получаемыми из опыта.

Ситуационное управление – управление объектами или сложными системами с помощью условных таблиц, в строках которых указаны вектора возможных ситуаций и соответствующие им вектора значений необходимых воздействий.

Решающее правило – основное правило действий, лежащее в основе эвристического алгоритма оперативного планирования, предпринимаемое в случае не единственной альтернативы выбора решения на локальном уровне.

Краткие итоги

Вопросы:

Дополнительные материалы к лекции, Вы можете скачать здесь.