Корректировка параметров, дистрибутивные преобразования, однослойные и совершенные логические нейронные сети

"И одноглазый Грач сказал свое мнение:

– Беня говорит мало, но он говорит смачно. Он говорит мало, но хочется, чтобы он сказал еще что-нибудь".

И. Бабель. "Одесские рассказы"

10.1. Корректировка порогов

В "Основы нейросетевых технологий" показано, что при моделировании конъюнктора с помощью нейрона для того, чтобы этот нейрон приходил в возбужденное состояние только после прихода сигналов возбуждения от всех связанных с ним нейронов, необходимо задать ему высокое значение порога. Так, рассчитывая на максимальную единичную достоверность (аналог булевой единицы) высказываний, считаем, что нейрон 1 должен прийти в возбужденное состояние, если Х₁ = Х₃ = Х₅ = Х₇ = 1, т.е. предъявлен соответствующий эталон. Это возможно, если порог h₁ превышает значение 3, равное уменьшенному на единицу числу возбуждаемых входов. Однако этот порог должен быть преодолен и в том случае (а это и является достоинством нейросети), если отдельные события, составляющие ситуацию, появляются с достоверностью, меньшей единицы. В этом случае необходимо так подобрать пороги для всех нейронов, прообразами которых являются конъюнкторы, чтобы "нужные" нейроны возбуждались, а "побочные эффекты" исключались.

Это требование приводит к важной исходной предпосылке создания нейросети, основанной на понятии существенности события.

На этапе проектирования нейросети выбирается некоторое значение H достоверности. Тогда событие является существенным, если его достоверность не ниже значения H.

Это не означает, что пользователь ограничен значениями предполагаемой достоверности событий, которую он задает на входном слое. Во-первых, в корректно представленной СПР, использующей исчерпывающие множества событий, низкая достоверность одних событий свидетельствует в пользу высокой достоверности других. Во-вторых, значение H – предпочтительная граница достоверности, учитываемая при формировании порога. Более того, это значение может характеризовать лишь среднюю величину возбуждения, подаваемого на один вход нейрона, взявшего на себя роль конъюнктора.

В данном примере, дабы избежать побочного эффекта, необходимо, чтобы нейроны 2 и 3 не возбуждались при высоких значениях Х₁ и Х₇ в то время, когда высокое значение возбуждения имеют нейроны Х₃ и Х₅. Они должны возбуждаться при высоком значении возбуждения нейронов Х₄ и Х₆. Однако в этом случае нейрон 1 должен возбуждаться лишь при высоком уровне возбуждения нейронов Х₃ и Х₅.

Учитывая приблизительность и неточность, лежащие в основе имитации ассоциативного мышления с помощью нейросети, необходимо согласиться с эвристическим или экспериментальным выбором порогов, используемых при счете передаточной функции нейронами-конъюнкторами, предоставив лишь рекомендации.

Обозначим n_i – количество активных входов нейрона i. Пусть h_i = Hn_i, i = 1, ..., 11. Положим H = 0,7. Тогда (рис. 9.15) h₁ = 2,8, h₂ = h₃ = h₄ = 2,1, h₅ = ... = h₁₁ = 1,4.

Рассчитаем значения возбуждения нейронов выходного слоя для ситуаций, отображенных в табл. 10.1, и, в частности, приведших к неоднозначности решения.

Для ситуации 1 имеем V₁ = 4 ( 4 > 2,8 ), V₂ = V₃ = 0 ( 2 < 2,1 ), V₄ = ... = V₁₁ = 0, R₁ = 4, R₂ = ... = R₅ = 0.

Для ситуации 2 находим V₁ = ... = V₁₁ = 0, R₁ = 1, R₂ = ... = R₅ = 0.

Для ситуации 3 имеем V₁ = 0 ( 2 < 2,8 ), V₂ = 3 ( 3 > 2,1 ), V₃ = 0 ( 2 < 2,1 ), V₄ = ... = V₁₁ = 0, R₁ = 0, R₂ = 3, R₃ = R₄ = R₅ = 0.

Ситуация 4: V₁ = V₂ = V₃ = 0, V₄ = 3 ( 3 > 2,1 ), V₅ = ... = V₁₁ = 0, R₁ = 0, R₂ = 3, R₃ = R₄ = R₅ = 0.

Ситуация 5: V₁ = ... = V₅ = 0, V₆ = 2 ( 2 > 1,4 ), V₇ = V₁₁ = 0, R₁ = R₂ = 0, R₃ = 2, R₄ = R₅ = 0.

Для ситуации 8 имеем V₁ = ... = V₈ = 0, V₉ = 2 ( 2 > 1,4 ), V₁₀ = V₁₁ = 0, R₁ = R₂ = R₃ = 0, R₄ = 2, R₅ = 0.

Проверив остальные эталоны, убеждаемся в том, что неоднозначность решения, принимаемого по всем эталонным ситуациям, ликвидирована. (Не появится ли она при последующих действиях?)

10.2. Корректировка весов связей нейронов выходного

ДНФ наглядно демонстрирует смысл задачи, так как каждая конъюнкция, включая содержащую единственное высказывание, соответствует отдельной ситуации. Дизъюнкция таких конъюнкций определяет множество ситуаций, приводящих к одному решению. Отсюда, прообразами нейронов выходного слоя являются дизъюнкторы, реализующие операцию ИСКЛЮЧАЮЩЕЕ ИЛИ, т.е. предполагающие анализ не более чем одного единичного сигнала на входе.

Выше было установлено, что при замене логических операций счетом единой передаточной функции даже для эталонных ситуаций возможен побочный эффект, при котором на один нейрон выходного слоя для совместной обработки поступают высокие сигналы возбуждения более чем одного нейрона, т.е. отображающие одновременное наличие разных ситуаций. Это способствует неоднозначности решений.

Показано, что с помощью порогов можно ликвидировать побочный эффект, и мы вправе считать, что высокий сигнал возбуждения, соответствующий действительной ситуации, воспринимается нейроном выходного слоя с единственного входа, что в большей степени адекватно имитируемой логической операции.

Однако величина возбуждения нейронов выходного слоя осталась различной в связи с различной величиной возбуждения нейронов скрытого (промежуточного) слоя.

Введем веса связей (входов) каждого нейрона выходного слоя, равные обратной величине уровня сигнала при предъявлении эталонной ситуации, поступающего на каждый вход. Этим мы добьемся принадлежности величин возбуждения нейронов выходного слоя диапазону [0, 1]. Этот диапазон будет реализован при "грамотном" задании достоверности событий на рецепторном входе.

Выбранный диапазон уравнивает роль входного и выходного слоев в случае, если при создании "длинных" логических цепочек умозаключений реализуется вложенность нейросетей. Это означает, что выходной слой одной нейросети тотчас используется в качестве входного слоя другой.

В исследуемом примере веса связей вводятся на основе анализа величин возбуждения нейронов выходного слоя при рассмотрении всех возможных эталонов, как представленных в табл. 9.1, так и немногих оставшихся. Полученные веса отображены на рис. 9.15.

Однако после корректировки весов, приведшей к одинаковому, единичному значению возбуждения нейронов выходного слоя в ответ на каждую эталонную ситуацию, вновь замечаем возникшую неоднозначность решения. А именно, высказывание Х₁₀ образует эталонную ситуацию, приводящую к решению R₁. В то же время Х₁₀ участвует в создании ситуаций и , приводящих к решениям R₃ и R₄ соответственно. То есть задание эталона Х₈ = Х₁₀ = 1 приводит в единичное возбуждение нейроны R₁ и R₃, а задание Х₉ = Х₁₀ = 1 порождает значения R₁ = R₄ = 1.

Исследуя пути исправления ошибки, приходим к выводу, что в основе обнаруженной коллизии лежит некорректное описание СПР, необнаруженное противоречие в задании на разработку. Еще на этапе составления логической схемы (рис. 9.15) мы могли обнаружить получение единичных сигналов не на единственном выходе.

Тогда вспоминаем, что бесплатный билет – проездной документ – предъявляется обязательно вместе с удостоверением работника МПС!

Дополним описание (9.1), уточнив логическое выражение для R₁:

( 10.1)

Появление новой конъюнкции высказываний приводит к увеличению числа нейронов промежуточного слоя (рис. 10.1), т.к. вместо связи X₁ -> R₁ вводится нейрон 12. Порог h₁₂ = 1,4. Вес связи нейрона 12 с нейроном R₁ принимает значение 0,5.

Рис. 10.1. Нейросеть после уточнения логического описания

В табл. 10.1 представлены результаты расчета принимаемых решений по предъявленным эталонным ситуациям (для проверки правильности) и по ряду неопределенных ситуаций (столбцы 8-10). Анализ таблицы показывает, что решения, принятые нейросетью, вполне объяснимы. Это относится даже к неоднозначному решению (столбец 9).