Нейросетевые технологии искусственного интеллекта

Математическая логика событий и логические нейронные сети

Разбить на страницы
Показывать лекцию целиком

Учёные объяснения большей частью производят то впечатление, что бывшее ясно и понятно становится темно и запутанно.

Л.Н. Толстой. Дневники, 1900, сентябрь.

Исчерпывающее множество событий

Следующие ниже построения не могут не затронуть смысловых особенностей высказываний о событиях. Кроме чисто формальных свойств высказываний, выражающихся в их истинности или ложности, невозможно полностью абстрагироваться от содержательной сути или от контекста, в котором они звучат.

Определение 1.1. Исчерпывающее множество событий (ИМС) образуют те события, совокупность высказываний о которых покрывает весь возможный смысловой диапазон проявления объекта высказывания, и каждая допустимая ситуация характеризуется тем, что значение ИСТИНА (1) может принимать единственное высказывание из этой совокупности, а сумма вероятности этих событий равна единице.

Рассмотрим примеры.

  • Времена года бывают: весна, лето, осень, зима.
  • В состав редколлегии входят трое: Иванов, Петров, Сидоров. Тогда провозглашение одной из этих фамилий определяет выдвижение единственного представителя коллектива в президиум собрания. То есть, если Иванов, а затем и Петров взяли самоотвод, то однозначно в президиум направляется Сидоров.
  • Наказуемое превышение скорости автомобиля делится на диапазоны: до 10%, от 10% до 20%, свыше 20%. Однако, если в регламентирующем документе заданы только диапазоны до 10% и от 10% до 100% (а что далее?), то это не будет соответствовать исчерпывающему множеству событий. Такие нестрогие определения возможного диапазона ситуаций являются причиной юридической казуистики, требующей дальнейшего исследования прецедента.
  • Итак, ИМС, которому соответствует множество высказываний А = {x1, ..., xn}, характеризуется тем, что при соответствующих обстоятельствах одно и только одно высказывание из этого множества может принимать значение 1. Это и определяется операцией ИСКЛЮЧАЮЩЕЕ ИЛИ, которую обозначим $$\lor$$. Говоря же о сумме вероятностей событий, мы несколько забежали вперёд.

    Очевидны главные свойства высказываний о событиях из ИМС:

    $$\overline{x_i} = x_1 \vee ... \vee x_{i-1} \vee x_{i+1} \vee ... \;x_n$$ $$x_i \land x_j = \left\{\begin{matrix} 0, npu \: i \ne j \\ x_i, npu \: i = j \end{matrix}\right.$$

    Закономерен вопрос: может ли ИМС содержать единственное событие? В некоторых примерах применения логических нейронных сетей, рассмотренных в части II, например, при представлении фактора эффективности единственным рецептором, за величину его возбуждения принимается известное или испытываемое значение эффективности. Это позволяет сократить объём логической нейронной сети, "напрямую" задавая "одинокие" параметры исследуемых объектов.

    Дерево логических возможностей. Факторное пространство событий

    Часто приходится оперировать не отдельными событиями и даже не исчерпывающими множествами таких событий (высказываниями о них), а композициями таких множеств. Между событиями, принадлежащими различным множествам, возможна зависимость, порождающая сложные высказывания. Связи между ИМС, образующие сложные высказывания, отображаются деревом логических возможностей [20].

    (рис 1.1) Полное дерево логических возможностей

    Рассмотрим пример.

    Пансионат для ветеранов труда обеспечивает постояльцам активный отдых круглый год. Представим схемой (рис. 1.1) распорядок дня отдыхающих. Такая схема и определит дерево логических возможностей.

    Уровни ветвления могут формироваться разными способами. Например, первый уровень можно сформировать на основе времён года и т.д. Однако в порядке рекомендации можно следовать правилу: события располагаются на более низких уровнях по сравнению с теми уровнями, которые занимают события, от которых зависят данные события.

    Бабушка пишет внуку: "Зимой я после завтрака катаюсь на лошади, и летом я после завтрака катаюсь на лошади, а также весной после завтрака прогулка бывает на лошади". …Что-то ей не нравится, и она строит схему своего составного высказывания: $$f = x_1 \land x_7 \land x_{14} \land x_1 \land x_5 \land x_{14} \land x_1 \land x_4 \land x_{10} \land x_{14}$$. Несколько поразмыслив, бабушка использует вынесение за скобку: $$f = x_1 \land x_{14} \land (x_5 \lor x_7 \lor x_4 \lor x_{10})$$. Тогда окончательный текст сообщения принимает вид: "После завтрака я катаюсь на лошади летом или зимой, а также, бывает, и весной, — вместо прогулки". Как же бабушка определила форму того логического выражения, — функции, отображающей все возможные варианты, и даже пути, ведущие к свершению интересующего события?

    Ответ следующий: необходимо на каждом пути в дереве логических возможностей, ведущем к заданному событию, построить конъюнкцию событий, образующих этот путь. Затем все такие конъюнкции объединить операцией дизъюнкции. Поскольку используются только исчерпывающие множества событий, очевидно, что эта дизъюнкция выполняется с помощью операции $$\lor $$, т.е. ИСКЛЮЧАЮЩЕЕ ИЛИ (хотя можно пользоваться значком $$\lor $$, опираясь на действительный, "физический" смысл возможных событий).

    Полученная таким способом функция вызывает естественное желание быть подвергнутой эквивалентному преобразованию — вынесению за скобки. Напомним список эквивалентных преобразований из булевой алгебры (1.3) [4]:

    Закон коммутативности: $$x\lor y = y\lor x; x\land y = y\land x.$$

    Закон ассоциативности: $$x\lor (y\lor z) = (x\lor y)\lor z; x\land (y\land z) = (x\land y) \land z.$$

    Закон дистрибутивности: $$x\land (y\lor z) = (x\land y)\lor (x\land z); x\lor (y\land z) = (x\lor y) \land (x\lor z).$$

    Закон де Моргана: $$\overline{x \lor y} = \overline{x} \land \overline{y}$$; $$\overline{x \land y} = \overline{x} \lor \overline{y}$$

    Закон идемпотенции: $$x\lor x = x; x\land x = x.$$

    Закон поглощения: $$x\lor (x\land y) = x; x\land (x\lor y) = x.$$

    Закон склеивания: $$(x\land y)\lor (\bar{x} \land y) = y; (x\lor y)\land (\bar{x} \lor y) = y.$$

    Операция переменной с инверсией: $$x \lor \bar{x} = 1; x \land \bar{x} = 0.$$

    Операция с константами: $$x\land 0 = 0, x\land 1 = x; x\lor 0 = x, x\lor 1 = 1.$$

    Двойное отрицание: $$\bar{\bar{x}} = x.$$

    Практически, например, при конструировании электронных устройств, известно заранее, какой сигнал на отдельно взятом выходе должен формироваться при различных значениях сигналов на входе. Тогда значения логической функции, описывающей формирование сигнала на данном выходе, задаются таблично, в зависимости от всех возможных ситуаций на входе. По такой таблице аналитическое выражение для искомой логической функции формируется в виде совершенной дизъюнктивной нормальной формы (СДНФ). Её общий вид продемонстрируем на примере трёх переменных:

    $$ f = f(0, 0, 0)\wedge (\overline{x_1}\wedge \overline{x_2}\wedge \overline{x_3}) \vee f(0, 0, 1) \wedge (\overline{x_1}\wedge \overline{x_2}\wedge x_3)\\ \vee f(0, 1, 0)\wedge( \overline{x_1}\wedge x_2 \wedge \overline{x_3} ) \vee f(0, 1, 1)\wedge( \overline{x_1}\wedge x_2\wedge x_3)\\ \vee f(1, 0, 0)\wedge (x_1 \wedge \overline{x_2}\wedge \overline{x_3}) \vee f(1, 0, 1)\wedge(x_1\wedge \overline{x_2}\wedge x_3)\\ \vee f(1, 1, 0) \wedge (x_1 \wedge x_2 \wedge \overline{x_3}) \vee f(1, 1, 1) \wedge (x_1 \wedge x_2 \wedge x_3). $$

    Отметим, что в результате такого способа построения искомая функция принимает вид, при котором каждая используемая переменная-высказывание входит не более одного раза.

    Например, функция, отображающая такое событие в жизни бабушки, как езда на велосипеде, имеет вид: $$g = x_1 \land x_4 \land x_{10} \land x_{13} \lor x_1 \land x_5 \land x_{13} = x_1 \land x_{13} \land (x_4 \land x_{10} \lor x_5).$$

    Однако далее будет показано, что не всегда единственного вхождения переменных можно добиться с помощью указанных эквивалентных преобразований. Иногда требуются дополнительные действия для его осуществления.

    Определение 1.2. Совокупность всех исследуемых в данном контексте событий, т.е. множество - объединение всех рассматриваемых ИМС, образует факторное пространство событий.

    Как и ранее, точку факторного пространства (ситуацию) будем обозначать {x1,..., xn}.

    Как видно из примера, факторное пространство событий отображается ветвящейся структурой на основе отдельных исчерпывающих множеств событий, входящих в его состав. Тогда подмножества, состоящие из таких ИМС, тоже являются факторными подпространствами, которые в некотором контексте можно исследовать отдельно.

    Например, можно отдельно исследовать факторное подпространство, сформированное на основе первых двух уровней ветвления (рис. 1.2) в приведённом на рис. 1.1 дереве логических возможностей. Это может быть необходимо при планировании финансовых расходов пансионата на питание.

    Можно, в соответствии с поставленной задачей (в контексте исследований), формировать другие факторные пространства событий. Например, планирование использования спортивного инвентаря по времени года приводит к целесообразности факторного пространства, структура которого показана на рис. 1.3.

    (рис 1.2) Факторное подпространство для исследований финансовых затрат на питание (рис 1.3) Факторное пространство для планирования спортивного инвентаря

    Система принятия решений

    Для некоторой логической функции f от переменных из факторного пространства событий воспользуемся операцией следования (импликации) и сформируем логическое выражение вида

    $$f(x_1, ..., x_n) \to R.$$

    Здесь f следует рассматривать как выражение, определяющее условие, сложившуюся ситуацию, посылку, а R - высказывание, которое рассматривается как следствие: правило поведения, значение векторной функции, указание к действию и т.д. Таким образом, возможно формирование связей вида "посылка - следствие", "если - то". При этом функция f задаётся на множестве ситуаций и указывает на то, что, если на некоторой ситуации она принимает значение 1 (ИСТИНА), то такое же значение принимает высказывание R, являясь руководством к действию, к принятию определённого решения.

    Подобно (1.3), можно описать множество логических выражений, определяющих стройную систему управления или принятия решений в соответствии со складывающейся ситуацией в факторном пространстве событий:

    $$ f_1 (x_1, ..., x_n) \to R_1.\\ .........\\ f_m (x_1, ..., x_n) \to R_m $$

    Определение 1.3. Система логических выражений вида (П.5), заданная на факторном пространстве (подпространстве) событий, обладающая полнотой и непротиворечивостью, называется системой принятия решений (СПР).

    Поясним важность свойств, указанных в определении.

    То, что система функций f1, ..., fm является полной, означает, что любая точка факторного пространства событий входит в область задания хотя бы одной из этих функций. Непротиворечивость означает, что по каждой ситуации одна и только одна из этих функций принимает значение 1, приводящее к истинности соответствующего высказывания - решения. Однако отметим, что, в действительности, на основе смыслового содержания задачи, по каждой или некоторой ситуации может быть известно более одного правильного решения, приводящего к успешным действиям. В таком случае высказывания об этих решениях могут быть объединены операцией ИЛИ, что приводит к приведённому выше предположению о непротиворечивости.

    Приведём теорему, которая даёт обоснование общего вида логического описания любой системы принятия решений – того вида, к которому на пути упрощения задачи рекомендуется приводить описание СПР для нейросетевой реализации.

    Теорема 1.1. Любая логическая функция, входящая в состав описания системы принятия решений, может быть приведена к дизъюнкции конъюнкций высказываний о событиях.

    Доказательство. Из основ математической логики (в частности, - теории булевых функций) известно, что каждая такая функция может быть представлена дизъюнктивной нормальной формой. Однако в ней, наряду с переменными, участвуют их отрицания. Ориентируясь на применение исчерпывающих множеств событий, воспользуемся (1.1) для выражения таких отрицаний. "Раскроем скобки", вновь выделив конъюнкции, объединённые операциями дизъюнкции. Упростим эти конъюнкции с помощью (1.2). Получим форму, объявленную в теореме. Теорема доказана.

    Данная теорема объясняет, почему в последующих примерах преимущественно принимается именно объявленная форма описания СПР, или легко сводящаяся к ней, а отрицания событий не рассматриваются.

    Пусть наша бабушка планирует занятия физкультурой и спортом во все времена года по времени дня: после завтрака, после обеда и после ужина. Объединяя высказывания по принципу "если - то" и пользуясь обозначениями на рис. 1.1, она формирует систему принятия решений, которой, не полагаясь на память, намерена строго следовать, добившись согласия администрации.

    Система имеет вид:

    $$ \text{ 1. } x_1\land x_4 \to R_1 = \text{"Прогулка на велосипеде";}\\ \text{ 2. } x_1\land x_6\lor x_2\land x_4 \to R_2 = \text{"Шахматы";}\\ \text{ 3. } x_2\land x_5\lor x_1\land x_7 \to R_3 = \text{"Верховая езда";}\\ \text{ 4. } x_1\land x_5\lor x_2\land x_6 \to R_4 = \text{"Байдарка";} \\ \text{ 5. } x_3\land (x_4\lor x_6) \to R_5 = \text{"Дискотека";}\\ \text{ 6. } x_2\land x_7 \to R_6 = \text{"Пешая прогулка";}\\ \text{ 7. } x_3\land (x_5\lor x_7) \to R_6 = \text{"Пешая прогулка".} $$

    Планируя пешую прогулку, бабушка первоначально получила следующее выражение:

    $$ (x_2\land x_7\lor x_3\land x_5)\lor (x_3\land x_7) \to R_6 = \text{"Пешая прогулка"}. $$

    Однако выше не напрасно обращается внимание на целесообразность однократного вхождения переменных в подобное выражение. (Ведь далее, при переходе к функции активации нейрона, возможно неоднократное суммирование одних и тех же переменных.) Выражение, полученное первоначально, с помощью эквивалентных преобразований привести к такому виду не удаётся. Тогда бабушка решает разбить это выражение на два подобных, сформировав получение одного и того же решения ("размножив" решение) на основе двух условий. Это и послужило появлению в (П.6) двух выражений, определяющих одно решение R6.

    Легко убедиться, что все возможные ситуации факторного пространства событий охвачены, что демонстрирует полную ясность действий бабушки.

    Системы принятия решений могут образовывать сложные иерархические структуры. В этом случае необходимо, чтобы высказывания-решения R1, ..., Rm отображали события, образующие ИМС.

    "Схемотехническое" представление системы принятия решений

    Отобразим (c нарушением некоторых стандартов) схемотехнически бабушкину СПР, подобно электронной схеме (рис. П.4) с помощью конъюнкторов и дизъюнкторов. На вход будем подавать значения истинности переменных-высказываний (ситуации) так, чтобы на одном из выходов формировалась единица - значение истинности соответствующего решения. Задавать значение ситуаций следует корректно, чтобы соблюдать требования вхождения переменных в исчерпывающие множества событий.

    (рис 1.4) «Электронная» схема системы принятия решений

    Реализовав эту схему на логических элементах, бабушка получит реальное средство подсказки: что она должна делать в данное время года и суток.

    Например, бабушка хочет вспомнить, чем она должна заниматься летом после обеда. Она полагает x2 = x5 = 1 при нулевых значениях других переменных и запускает программу, моделирующую работу электронной схемы. На выходе R3 формируется сигнал, соответствующий высказыванию "Верховая езда".

    Электронная схема, имитирующая систему принятия решений, требует корректного задания исходной информации, т.е. корректной формулировки вопроса в соответствии со смыслом задачи. Одновременно должна существовать уверенность в получении единственного решения, в том числе предполагающего задание альтернативных вариантов, если это предусмотрено при построении СПР. В таком случае окончательный выбор альтернативы может быть предусмотрен при развитии системы, при анализе новых вводимых факторов. При некорректной формулировке вопроса возникнут коллизии, неоднозначные или неправильные выводы. Таким образом, СПР может отвечать только на те вопросы, на которые она настроена.

    Достоверность высказываний о событиях

    Говоря о высказываниях как о логических переменных, мы, несомненно, предполагаем наличие субъективного фактора: ведь это кто-то сказал. И мы говорим верному другу: "Я мало доверяю этому человеку, но он сказал ..., а дыма без огня не бывает".

    Очевидно, недостаточно резких, кардинальных, взаимоисключающих, крайних суждений о высказываниях, подразделяющих их на истинные и ложные. Жизненный опыт говорит, что стопроцентной правды не бывает.

    Таким образом, необходимо ввести понятие достоверность высказывания, которая идеально представляет вероятность того, что данное высказывание о свершении события истинно, т.е. представляющая его логическая переменная равна 1.

    В этой оценке достоверности вновь практически преобладает субъективный фактор. Поэтому при построении экспертных систем применяется двойная оценка: оценка, данная экспертом по запросу, и вес самого эксперта. Здесь эффективно используется аппарат нечётких множеств.

    Говоря о сложных высказываниях, отображаемых деревьями логических возможностей, тем более трудно судить о достоверности высказываний о событиях, особенно тех, которые отображаются концевыми вершинами.

    Рассмотрим пример. Информатор сообщает Агенту о том, что видел своими глазами, как Марина передала Васе пачку денег. Напрягая богатый опыт, Агент рассуждает логически:

  • Насколько можно доверять Информатору, который три дня не брился и от которого дурно пахнет?
  • Мог ли находиться Информатор в это время в нужном месте, чтобы "видеть своими глазами"?
  • Насколько верно то, что в переданной пачке были деньги?
  • Можно ли оперативно воспользоваться существующими математическими методами оценки (например, аппаратом нечётких множеств) заодно учитывающими другие факторы, как, например, личные финансовые затруднения, или необходимые оценки следует выполнить интуитивно, "с потолка"?
  • Так какова же должна быть формулировка отчёта в Центр, для получения максимального вознаграждения за поимку взяточника?
  • Таким образом, видно, что оценка достоверности высказываний неизбежна, но представляет значительные практические трудности, тем более, - при требуемой оперативности этих оценок, столь важной в реальных системах управления и принятия решений.

    Итак, на основе алгебры высказываний можно создавать электронные системы принятия решений: на входе задавать ситуацию, на выходе получать указание на правильную реакцию. Всё дело лишь в интерпретации предметной области - во вскрытии причинно-следственных связей, в исследовании личного или коллективного опыта, в изучении теории. Необходимы и схемотехнические навыки запоминания связей.

    Однако смущают два обстоятельства:

  • Неопределённость исходной информации о ситуациях, исключающая точный ответ на вопрос о наличии или отсутствии события и делающая неправомерным использование исключительно булевых переменных. Высказывания не бывают истинными и ложными, как это предполагается в классической математической логике. Высказывания оцениваются своей достоверностью, которая принимает действительные значения на отрезке [0, 1], и подчиняется известным положениям теории вероятности.
  • Способность человека логично мыслить на неформальном уровне не реализуется с помощью конъюнкторов и дизъюнкторов в составе мозга. Именно вскрытие механизмов мышления, особенно того, которое мы называем рефлекторным, привлекает внимание исследователей. Необходимо искать механизмы мышления, оперирующие не с булевыми переменными, а с действительными, несущими смысл достоверности.
  • Пусть рассмотренные выше переменные-высказывания {xi}, образующие факторное пространство, могут принимать значения достоверности $$\{P_i\}, 0 \leq P_i \leq 1, i = 1, ..., M$$.

    Так как факторное пространство формируется на основе исчерпывающих множеств событий, то внутри каждого такого множества выполняется известное правило нормировки: сумма достоверностей событий каждого такого множества равна единице.

    Перегруппируем события и дополним дерево логических возможностей, представленное на рисунке 1.1, указав на его ветвях (стрелках), в качестве весов этих ветвей, значения достоверности событий (рис. 1.5). Получим вероятностное дерево логических возможностей [21].

    При организации ветвления в этом дереве также предполагаются все возможные альтернативы, т.е. исчерпывающие множества событий. Поэтому сумма вероятностей всех событий, отображаемых вершинами, которые связаны входящими стрелками, исходящими из некоторой вершины, равна единице.

    (рис 1.5) Вероятностное дерево логических возможностей

    В отличие от дерева логических возможностей, вероятностное дерево явно отображает зависимость событий. События, зависимые от данного, отображаются более низкими уровнями ветвления. Такая зависимость определяется на уровне смыслового анализа факторного пространства.

    Например, логично предположить, что формы труда, отдыха и спортивных развлечений зависят от времени года, затем, — от распорядка приёма пищи. Такая зависимость и отображается на рис. 1.5.

    Тогда достоверность событий формируется с помощью условных вероятностей, зависящих от путей, по которым достигаются эти события. Поэтому на вероятностном дереве логических возможностей целесообразно повторять вершины одного смыслового содержания, в результате чего размножаются варианты ветвления, а дерево существенно разрастается. От совмещения путей страдает наглядность, и не более того.

    Чтобы найти вероятность некоторого события b при условии свершения события а (событию а может соответствовать корневая вершина, тогда речь идёт о полной, а не условной вероятности), необходимо найти все пути, ведущие из a в b. По каждому пути необходимо перемножить все веса ветвей. Полученные по всем путям произведения необходимо сложить.

    Пример 1. Найдём вероятность того, что отдыхающий весной и летом в произвольно выбранный момент времени совершает прогулку верхом:

    $$ 0,25\times 0,33\times 0,5\times 0,4 + 0,25\times 0,33\times 0,3 = 0,04125. $$

    Пример 2. Найдём вероятность того, что в произвольно выбранный момент времени в течение года отдыхающий совершает прогулку верхом:

    $$ 0,25\times 0,33\times 0,5\times 0,4 + 0,25\times 0,33\times 0,3 + 0,25\times 0,33\times 0,2 = 0,05775. $$

    Система принятия решений на основе достоверности высказываний о событиях

    Изменения, внесённые в дерево логических возможностей и представленные на рис 1.5, отобразим в электронной схеме системы принятия решений, представленной на рис. 1.4. Теперь исходными данными для конъюнкторов и дизъюнкторов становятся не булевы, а действительные значения, для которых логические операции не определены (рис. 1.6). Так перейдём к понятию нечёткой логики.

    (рис 1.6) Система принятия решений на основе достоверности событий

    Следуя далее по пути приблизительных оценок (ибо практически достоверность, как категория теории вероятностей, принадлежит области весьма приблизительных оценок), разработаем некоторый суррогат операций конъюнкции N1 и дизъюнкции N2 на основе передаточной функции или функции активации некоторого порогового элемента. Этот элемент преобразует сумму входных величин в выходные значения, которые приближённо "напоминают" результаты упомянутых логических операций. Данный путь – путь ухода от точного выбора в сторону выбора решения на основе степени похожести ситуаций на уже известные. Это путь ассоциативного мышления. Так мы перейдём к рассмотрению тех нейроподобных элементов, что реализованы в природе!

    Существует множество вариантов подбора пороговой передаточной функции, или функции активации, лежащей в основе такого элемента.

    Введём сквозную нумерацию всех узлов схемы, реализующих дизъюнкцию и конъюнкцию. Пусть i - номер такого узла, j - номер входа этого узла при количестве mi активных входов (в данном примере каждый узел имеет два входа), $$\omega_j$$ - вес входа. Тогда простейшая функция активация (обратите внимание: наши помыслы сосредоточены на нейроне!) fi, реализуемая i-м узлом для замены логических операций конъюнкции и дизъюнкции, имеет вид

    $$f_i=\begin{cases} \sum_{j=1}^{m}{f_j\omega_j } \text{если } \sum_{j=1}^{m}{f_j\omega_j }-h\geq 0, \\ 0 \text{в противном случае} \end{cases}$$

    Здесь fj — величина сигнала, поступающая на j-й вход.

    Тогда элемент N1, подобный конъюнктору, может быть реализован при $$\omega_j = 1/m_i, j = 1, ..., m_i$$, с помощью существенно высокого порога (рис. 1.7), где значение $$\delta_i$$ обусловлено некоторой поправкой, достаточной, чтобы для преодоления порога сигналы возбуждения с большой степенью уверенности поступали обязательно по всем входам.

    (рис 1.7) Элемент N1

    На этапе настройки и верификации СПР предполагается, что входные сигналы — булевы переменные, принимающие значения 0, 1. Тогда целесообразно выбрать значение $$\delta_i < 1/m_i$$. Очевидно, что для того, чтобы преодолеть порог, на всех входах должны быть "1"; недостаток хотя бы одной "1" приведет к тому, что сумма поступивших сигналов будет более чем на 1/mi меньше указанной суммы весов.

    При переходе к действительным переменным, когда вместо событий рассматриваются, например, лишь предполагаемые вероятности их наступления, экспериментальное уточнение значения $$\delta_i$$ может обусловить ту границу, когда считаться с возможностью данной комбинации событий нецелесообразно.

    Элемент N2, подобный дизъюнктору, реализуется, наоборот, при низком значении порога и при $$\omega_j = 1, j = 1, ..., m_i$$(рис. 1.8, единичные веса не обозначаются). Порог выбирается так, чтобы уже при возбуждении на одном входе возникал сигнал возбуждения на выходе. При этом если дизъюнкция задана на исчерпывающем множестве событий, как это чаще всего бывает, сигнал на выходе не превышает "1", а значение $$\delta_i$$ выбирается экспериментально достаточно малым.

    (рис 1.8) Элемент N2

    Задав на входе СПР значения достоверности переменных-высказываний и рассчитав значения на выходах пороговых элементов, на выходах схемы получим некоторые значения. Максимальное из этих значений "голосует" в пользу соответствующего решения.

    Предложения, касающиеся создания пороговых элементов N1 и N2, носят лишь рекомендательный характер. Здесь неограниченный простор для творчества.

    Напомним, что корректность задания исходной информации (соблюдение условия нормировки на исчерпывающих множествах событий, оценки достоверности с помощью вероятностного дерева логических возможностей) гарантируют практически приемлемый результат. Если же на входах задавать что угодно, то СПР преобразует это в какую угодно рекомендацию по принципу: "каков вопрос — таков и ответ".

    На рассмотренном жизненном примере проанализируем принимаемые бабушкой решения на основе двух вариантов СПР: с помощью электронной схемы (рис. 1.4), использующей определённость знания о ситуации, и с помощью схемы, основанной на неопределённости, на предполагаемой достоверности этих знаний (рис. 1.6). Положим (на основе интуиции) $$\delta_i = 0,3$$ для всех i. Данные сведены в таблицу 1.1.

    Сравнительные оценки получаемых решений
    ПеременныеРешение по электронной схеме Решение на основе достоверности событий
    x1 (P1)x2 (P2)x3 (P3)x4 (P4)x5 (P5)x6 (P6)x7 (P7)
    1 1 R1R1
    1 1 1R3R3
    1 1 Нет решенияНет решения
    0,80,2 0,40,5 Решение не определеноR2
    0,20,40,61 0,5Решение не определеноR2

    Более точный выбор значения $$\delta_i$$ производится на этапе верификации СПР по известным вариантам нахождения решения. В данном случае представляется, что этот выбор произведён успешно.

    Минимизация длины логической цепочки в системе принятия решений

    Замена логических операций операцией суммирования при счёте передаточной функции приводит к актуальности однократного учёта всех входящих переменных, т.е. к единственности вхождения переменных в каждое логическое выражение, составляющее описание системы принятия решений. Выше с целью обеспечения такого единственного вхождения переменной был использован приём "размножения" решения R6.

    При разработке электронных схем исследуется понятие "длина логической цепочки" - под ней подразумевается максимальное количество электронных элементов, которое должен преодолеть сигнал на входе схемы, пройдя последовательное тактируемое преобразование, чтобы на выходе схемы сформировался сигнал. От этой длины, определяющей время переходного процесса, зависит быстродействие схемы. Поэтому актуальной задачей является минимизация максимальной длины логической цепочки при возможности параллельного выполнения всех таких цепочек (что характерно для прохождения электрического сигнала по схеме).

    Очевидно, что в схеме на рис. 1.4 максимальная длина логической цепочки равна двум.

    Применим ко всем выражениям (1.5), каждое из которых является или может быть преобразовано в дизъюнкцию конъюнкций, приём "размножения" решений. Теперь (рис. 1.9) схема состоит из цепочек единичной длины. Каждый входной сигнал подвергается обработке только конъюнктором. Так как электронная схема полностью определяет конструкцию системы принятия решений на основе достоверности событий, то можно преобразовать полученную электронную схему в однослойную схему СПР, показанную на том же рисунке.

    (рис 1.9) Преобразование электронной схемы с единичной длиной логической цепочки в однослойную систему принятия решений

    Таким образом, доказано следующее утверждение:

    Любая СПР, сформированная на основе логического описания булевыми функциями, способом "размножения" решений преобразуется в однослойную СПР на основе достоверности событий.

    Преимуществом таких СПР является то, что они представляют собой таблицы с ассоциативной выборкой по принципу наибольшей похожести.

    Конечно, можно за каждым решением закреплять один выход СПР, на котором объединить общее решение, полученное по разным путям, в виде текста. При корректно заданных исходных данных – на основе правил использования исчерпывающих множеств событий – СПР будет "работать" правильно, выдавая адекватные ответы. Тогда рекомендация "Прими решение R" будет выдана, но информация о пути, приведшему к этому решению, будет утрачена.

    При составлении "электронной" схемы такое объединение производится с помощью операции дизъюнкции, что приводит к длине логической цепочки, равной двум. Но ведь если, формируя структуру СПР, строго следовать порядку построения "электронная схема $$\to$$ система принятия решений", то и СПР будет иметь максимальную логическую цепочку с длиной, равной 2.

    Таким образом, "размножение" решений – операция, целесообразность которой свойственна СПР, что делает её построение отличающимся, развивающим "схемотехнический" подход. "Электронные" схемы целесообразно использовать на начальном этапе исследования логического описания СПР, а далее, оттолкнувшись от них, перейти к более совершенной однослойной структуре.

    "Размножение" решений имеет важное достоинство. Оно позволяет установить причину, дополнительно объяснить принимаемое решение, учесть в тексте аргументацию. Это означает, что текст решения может быть дополнен указанием причины принятия именно такого решения.

    Например, получив информацию о необходимости заказа велосипеда в отделе спортинвентаря, бабушка может воспользоваться и важным объяснением: "… потому что сейчас, скорее всего, весна, а Вы, вероятно, только что сытно позавтракали" (рис.1.10).

    (рис 1.10) Бабушка

    Таким образом, построен алгоритм параллельных (бесформульных!) вычислений сложных логических конструкций в области действительных переменных, предназначенный для реализации высокого быстродействия в системах управления и принятия решений. Более того, сведение СПР к однослойной нейросети приводит к применению лишь тех передаточных функций (элементов N1 на рис. 1.6 и 1.9), которые имитируют конъюнкторы. Это служит повышению достоверности оценок, стандартизации и адекватности природным процессам.

    (рис 1.11) Логическая нейронная сеть БАБУШКА.

    От логических операций совершён переход к их некоторым суррогатам на основе передаточной функции. Операционной основой этой функции является сложение взвешенных сигналов на входе. Логические переменные оказались заменёнными действительными – достоверностью высказываний.

    Изображая передаточную функцию буквой N, и уже назвав её однажды функцией активации, мы подразумеваем нейрон, нейроподобный элемент - исполнитель этой функции активации, способный, подобно кирпичику, участвовать в образовании сложных сетевых структур. Теперь мы можем на рисунке 1.9 заменить квадратики кружочками, подразумевая нейроны, как это отображено на рис. 1.11.

    При этом функции активации являются простейшими (монотонно возрастающими по каждому сигналу на входе), и выбираться "на вкус". Как говорилось выше, операция сложения взвешенных сигналов на входе является основой такой функции. Практически всегда весами являются "нули" или "единицы".

    В данном примере можно рекомендовать функцию активации:

    Значение h = 1 гарантирует выполнение условия $$0 \leq V_i \leq 1$$. Это упрощает применение формируемого на выходном слое сигнала для входа в следующую нейронную сеть длинной логической цепочки.

    Выбор и обоснование функции активации нейрона

    Требования к функции активации:

  • Эти функции в области преодоления порога должны быть монотонно возрастающими по каждому сигналу на входе нейрона;
  • Сигнал возбуждения при его прохождении по сети не должен угасать;
  • Сигналы возбуждения на выходном слое должны быть четко различимы по величине для различных эталонных ситуаций;
  • Должен быть примерно равным диапазон изменения величин возбуждения нейронов выходного слоя, закрепленных за разными решениями.

    Приведём ряд функций активации, тривиальных по выполнению и используемых в данной книге:

  • Достаточно универсальной функцией активации является функция возбуждения нейрона по усреднённому значению сигналов на его входах (дендритах). Это усреднённое значение сигналов и принимается, как величина возбуждения нейрона.

    , $$V := if \leq h \text{ then V else 0}.$$

    Если все веса $$\omega_i = 1$$, то функция активации находится:

  • Не следует забывать, что нейронную сеть, реализующую СПР, необходимо рассматривать как одно звено в цепочке логического вывода, вырабатывающее информацию для последующих звеньев цепочки. Это позволяет строить сложные, многоуровневые СПР, как цепочки логических выводов, реализующие дедуктивное и даже индуктивное мышление.

    Конкретно это означает, что величины возбуждения нейронов выходного слоя должны, как и величины возбуждения рецепторов, принадлежать диапазону [0, 1], моделируя всё ту же достоверность выводов.

    В однослойных нейронных сетях, где хороша каждая из перечисленных функций активации, предлагается использовать функцию активации 5. Здесь особенно актуально то, что прообразом нейрона выходного слоя является конъюнктор. Легко видеть, что величина возбуждения каждого нейрона сети удовлетворяет указанному диапазону.

    Функция активации 4 применима в задачах логического вывода, а также в системах диагностики, т.к. близка к воспроизведению булевой переменной.

    Можно придумать и другие функции активации, удовлетворяющие приведённым выше требованиям.

    Краткие итоги

  • Корректно составленная система принятия решений оперирует исчерпывающими множествами событий.
  • Несколько исчерпывающих множеств событий, являющихся предметом исследования при построении системы принятия решений, образуют факторное пространство событий.
  • Взаимосвязь событий различных исчерпывающих множеств целесообразно отображать деревом логических возможностей. Оно позволяет выделять множества совместных событий, находить вероятности их наступления, строить факторные подпространства событий.
  • Дерево логических возможностей позволяет корректно строить логические функции в основе системы принятия решений.
  • Реализация логических функций по технологии "электронных" схем позволяет построить систему принятия решений, оперирующую с булевыми переменными. Применение исчерпывающих множеств событий исключает необходимость операции НЕ.
  • Переход от булевых переменных к действительным – к достоверностям высказываний о наступлении событий – возможен с помощью нечёткой логики, основанной на приближённом исполнении схем И и ИЛИ на нейроподобных элементах.
  • Дальнейший переход к нейронным сетям при сохранении правильной работы системы принятия решений также оказывается результативным, так как следует Природе.
  • Структура нейронной сети может быть значительно упрощена по известным в математической логике и в схемотехнике методам сокращения максимальной длины логической цепочки. Так формируются однослойные нейронные сети.
  • Вопросы:

  • Что представляет собой исчерпывающее множество событий?
  • Что представляет собой факторное пространство событий и как его структуризация с помощью дерева логических возможностей помогает корректно сформировать логическое описание системы принятия решений?
  • Как формируется полное и непротиворечивое логическое описание системы принятия решений?
  • Как логическое описание преобразуется в форму, предполагающую однослойную нейронную сеть?
  • Как осуществляется переход к нечётким данным – к достоверностям высказываний о наступлении событий?
  • Как на основе "схемотехнического" подхода производится обоснование однослойных логических нейронных сетей, реализующих системы принятия решений?
  • Страницы:

    Учёные объяснения большей частью производят то впечатление, что бывшее ясно и понятно становится темно и запутанно.

    Л.Н. Толстой. Дневники, 1900, сентябрь.

    Исчерпывающее множество событий

    Следующие ниже построения не могут не затронуть смысловых особенностей высказываний о событиях. Кроме чисто формальных свойств высказываний, выражающихся в их истинности или ложности, невозможно полностью абстрагироваться от содержательной сути или от контекста, в котором они звучат.

    Определение 1.1. Исчерпывающее множество событий (ИМС) образуют те события, совокупность высказываний о которых покрывает весь возможный смысловой диапазон проявления объекта высказывания, и каждая допустимая ситуация характеризуется тем, что значение ИСТИНА (1) может принимать единственное высказывание из этой совокупности, а сумма вероятности этих событий равна единице.

    Рассмотрим примеры.

  • Времена года бывают: весна, лето, осень, зима.
  • В состав редколлегии входят трое: Иванов, Петров, Сидоров. Тогда провозглашение одной из этих фамилий определяет выдвижение единственного представителя коллектива в президиум собрания. То есть, если Иванов, а затем и Петров взяли самоотвод, то однозначно в президиум направляется Сидоров.
  • Наказуемое превышение скорости автомобиля делится на диапазоны: до 10%, от 10% до 20%, свыше 20%. Однако, если в регламентирующем документе заданы только диапазоны до 10% и от 10% до 100% (а что далее?), то это не будет соответствовать исчерпывающему множеству событий. Такие нестрогие определения возможного диапазона ситуаций являются причиной юридической казуистики, требующей дальнейшего исследования прецедента.
  • Итак, ИМС, которому соответствует множество высказываний А = {x1, ..., xn}, характеризуется тем, что при соответствующих обстоятельствах одно и только одно высказывание из этого множества может принимать значение 1. Это и определяется операцией ИСКЛЮЧАЮЩЕЕ ИЛИ, которую обозначим $$\lor$$. Говоря же о сумме вероятностей событий, мы несколько забежали вперёд.

    Очевидны главные свойства высказываний о событиях из ИМС:

    $$\overline{x_i} = x_1 \vee ... \vee x_{i-1} \vee x_{i+1} \vee ... \;x_n$$ $$x_i \land x_j = \left\{\begin{matrix} 0, npu \: i \ne j \\ x_i, npu \: i = j \end{matrix}\right.$$

    Закономерен вопрос: может ли ИМС содержать единственное событие? В некоторых примерах применения логических нейронных сетей, рассмотренных в части II, например, при представлении фактора эффективности единственным рецептором, за величину его возбуждения принимается известное или испытываемое значение эффективности. Это позволяет сократить объём логической нейронной сети, "напрямую" задавая "одинокие" параметры исследуемых объектов.

    Дерево логических возможностей. Факторное пространство событий

    Часто приходится оперировать не отдельными событиями и даже не исчерпывающими множествами таких событий (высказываниями о них), а композициями таких множеств. Между событиями, принадлежащими различным множествам, возможна зависимость, порождающая сложные высказывания. Связи между ИМС, образующие сложные высказывания, отображаются деревом логических возможностей [20].

    (рис 1.1) Полное дерево логических возможностей

    Рассмотрим пример.

    Пансионат для ветеранов труда обеспечивает постояльцам активный отдых круглый год. Представим схемой (рис. 1.1) распорядок дня отдыхающих. Такая схема и определит дерево логических возможностей.

    Уровни ветвления могут формироваться разными способами. Например, первый уровень можно сформировать на основе времён года и т.д. Однако в порядке рекомендации можно следовать правилу: события располагаются на более низких уровнях по сравнению с теми уровнями, которые занимают события, от которых зависят данные события.

    Бабушка пишет внуку: "Зимой я после завтрака катаюсь на лошади, и летом я после завтрака катаюсь на лошади, а также весной после завтрака прогулка бывает на лошади". …Что-то ей не нравится, и она строит схему своего составного высказывания: $$f = x_1 \land x_7 \land x_{14} \land x_1 \land x_5 \land x_{14} \land x_1 \land x_4 \land x_{10} \land x_{14}$$. Несколько поразмыслив, бабушка использует вынесение за скобку: $$f = x_1 \land x_{14} \land (x_5 \lor x_7 \lor x_4 \lor x_{10})$$. Тогда окончательный текст сообщения принимает вид: "После завтрака я катаюсь на лошади летом или зимой, а также, бывает, и весной, — вместо прогулки". Как же бабушка определила форму того логического выражения, — функции, отображающей все возможные варианты, и даже пути, ведущие к свершению интересующего события?

    Ответ следующий: необходимо на каждом пути в дереве логических возможностей, ведущем к заданному событию, построить конъюнкцию событий, образующих этот путь. Затем все такие конъюнкции объединить операцией дизъюнкции. Поскольку используются только исчерпывающие множества событий, очевидно, что эта дизъюнкция выполняется с помощью операции $$\lor $$, т.е. ИСКЛЮЧАЮЩЕЕ ИЛИ (хотя можно пользоваться значком $$\lor $$, опираясь на действительный, "физический" смысл возможных событий).

    Полученная таким способом функция вызывает естественное желание быть подвергнутой эквивалентному преобразованию — вынесению за скобки. Напомним список эквивалентных преобразований из булевой алгебры (1.3) [4]:

    Закон коммутативности: $$x\lor y = y\lor x; x\land y = y\land x.$$

    Закон ассоциативности: $$x\lor (y\lor z) = (x\lor y)\lor z; x\land (y\land z) = (x\land y) \land z.$$

    Закон дистрибутивности: $$x\land (y\lor z) = (x\land y)\lor (x\land z); x\lor (y\land z) = (x\lor y) \land (x\lor z).$$

    Закон де Моргана: $$\overline{x \lor y} = \overline{x} \land \overline{y}$$; $$\overline{x \land y} = \overline{x} \lor \overline{y}$$

    Закон идемпотенции: $$x\lor x = x; x\land x = x.$$

    Закон поглощения: $$x\lor (x\land y) = x; x\land (x\lor y) = x.$$

    Закон склеивания: $$(x\land y)\lor (\bar{x} \land y) = y; (x\lor y)\land (\bar{x} \lor y) = y.$$

    Операция переменной с инверсией: $$x \lor \bar{x} = 1; x \land \bar{x} = 0.$$

    Операция с константами: $$x\land 0 = 0, x\land 1 = x; x\lor 0 = x, x\lor 1 = 1.$$

    Двойное отрицание: $$\bar{\bar{x}} = x.$$

    Практически, например, при конструировании электронных устройств, известно заранее, какой сигнал на отдельно взятом выходе должен формироваться при различных значениях сигналов на входе. Тогда значения логической функции, описывающей формирование сигнала на данном выходе, задаются таблично, в зависимости от всех возможных ситуаций на входе. По такой таблице аналитическое выражение для искомой логической функции формируется в виде совершенной дизъюнктивной нормальной формы (СДНФ). Её общий вид продемонстрируем на примере трёх переменных:

    $$ f = f(0, 0, 0)\wedge (\overline{x_1}\wedge \overline{x_2}\wedge \overline{x_3}) \vee f(0, 0, 1) \wedge (\overline{x_1}\wedge \overline{x_2}\wedge x_3)\\ \vee f(0, 1, 0)\wedge( \overline{x_1}\wedge x_2 \wedge \overline{x_3} ) \vee f(0, 1, 1)\wedge( \overline{x_1}\wedge x_2\wedge x_3)\\ \vee f(1, 0, 0)\wedge (x_1 \wedge \overline{x_2}\wedge \overline{x_3}) \vee f(1, 0, 1)\wedge(x_1\wedge \overline{x_2}\wedge x_3)\\ \vee f(1, 1, 0) \wedge (x_1 \wedge x_2 \wedge \overline{x_3}) \vee f(1, 1, 1) \wedge (x_1 \wedge x_2 \wedge x_3). $$

    Отметим, что в результате такого способа построения искомая функция принимает вид, при котором каждая используемая переменная-высказывание входит не более одного раза.

    Например, функция, отображающая такое событие в жизни бабушки, как езда на велосипеде, имеет вид: $$g = x_1 \land x_4 \land x_{10} \land x_{13} \lor x_1 \land x_5 \land x_{13} = x_1 \land x_{13} \land (x_4 \land x_{10} \lor x_5).$$

    Однако далее будет показано, что не всегда единственного вхождения переменных можно добиться с помощью указанных эквивалентных преобразований. Иногда требуются дополнительные действия для его осуществления.

    Определение 1.2. Совокупность всех исследуемых в данном контексте событий, т.е. множество - объединение всех рассматриваемых ИМС, образует факторное пространство событий.

    Как и ранее, точку факторного пространства (ситуацию) будем обозначать {x1,..., xn}.

    Как видно из примера, факторное пространство событий отображается ветвящейся структурой на основе отдельных исчерпывающих множеств событий, входящих в его состав. Тогда подмножества, состоящие из таких ИМС, тоже являются факторными подпространствами, которые в некотором контексте можно исследовать отдельно.

    Например, можно отдельно исследовать факторное подпространство, сформированное на основе первых двух уровней ветвления (рис. 1.2) в приведённом на рис. 1.1 дереве логических возможностей. Это может быть необходимо при планировании финансовых расходов пансионата на питание.

    Можно, в соответствии с поставленной задачей (в контексте исследований), формировать другие факторные пространства событий. Например, планирование использования спортивного инвентаря по времени года приводит к целесообразности факторного пространства, структура которого показана на рис. 1.3.

    (рис 1.2) Факторное подпространство для исследований финансовых затрат на питание (рис 1.3) Факторное пространство для планирования спортивного инвентаря

    Система принятия решений

    Для некоторой логической функции f от переменных из факторного пространства событий воспользуемся операцией следования (импликации) и сформируем логическое выражение вида

    $$f(x_1, ..., x_n) \to R.$$

    Здесь f следует рассматривать как выражение, определяющее условие, сложившуюся ситуацию, посылку, а R - высказывание, которое рассматривается как следствие: правило поведения, значение векторной функции, указание к действию и т.д. Таким образом, возможно формирование связей вида "посылка - следствие", "если - то". При этом функция f задаётся на множестве ситуаций и указывает на то, что, если на некоторой ситуации она принимает значение 1 (ИСТИНА), то такое же значение принимает высказывание R, являясь руководством к действию, к принятию определённого решения.

    Подобно (1.3), можно описать множество логических выражений, определяющих стройную систему управления или принятия решений в соответствии со складывающейся ситуацией в факторном пространстве событий:

    $$ f_1 (x_1, ..., x_n) \to R_1.\\ .........\\ f_m (x_1, ..., x_n) \to R_m $$

    Определение 1.3. Система логических выражений вида (П.5), заданная на факторном пространстве (подпространстве) событий, обладающая полнотой и непротиворечивостью, называется системой принятия решений (СПР).

    Поясним важность свойств, указанных в определении.

    То, что система функций f1, ..., fm является полной, означает, что любая точка факторного пространства событий входит в область задания хотя бы одной из этих функций. Непротиворечивость означает, что по каждой ситуации одна и только одна из этих функций принимает значение 1, приводящее к истинности соответствующего высказывания - решения. Однако отметим, что, в действительности, на основе смыслового содержания задачи, по каждой или некоторой ситуации может быть известно более одного правильного решения, приводящего к успешным действиям. В таком случае высказывания об этих решениях могут быть объединены операцией ИЛИ, что приводит к приведённому выше предположению о непротиворечивости.

    Приведём теорему, которая даёт обоснование общего вида логического описания любой системы принятия решений – того вида, к которому на пути упрощения задачи рекомендуется приводить описание СПР для нейросетевой реализации.

    Теорема 1.1. Любая логическая функция, входящая в состав описания системы принятия решений, может быть приведена к дизъюнкции конъюнкций высказываний о событиях.

    Доказательство. Из основ математической логики (в частности, - теории булевых функций) известно, что каждая такая функция может быть представлена дизъюнктивной нормальной формой. Однако в ней, наряду с переменными, участвуют их отрицания. Ориентируясь на применение исчерпывающих множеств событий, воспользуемся (1.1) для выражения таких отрицаний. "Раскроем скобки", вновь выделив конъюнкции, объединённые операциями дизъюнкции. Упростим эти конъюнкции с помощью (1.2). Получим форму, объявленную в теореме. Теорема доказана.

    Данная теорема объясняет, почему в последующих примерах преимущественно принимается именно объявленная форма описания СПР, или легко сводящаяся к ней, а отрицания событий не рассматриваются.

    Пусть наша бабушка планирует занятия физкультурой и спортом во все времена года по времени дня: после завтрака, после обеда и после ужина. Объединяя высказывания по принципу "если - то" и пользуясь обозначениями на рис. 1.1, она формирует систему принятия решений, которой, не полагаясь на память, намерена строго следовать, добившись согласия администрации.

    Система имеет вид:

    $$ \text{ 1. } x_1\land x_4 \to R_1 = \text{"Прогулка на велосипеде";}\\ \text{ 2. } x_1\land x_6\lor x_2\land x_4 \to R_2 = \text{"Шахматы";}\\ \text{ 3. } x_2\land x_5\lor x_1\land x_7 \to R_3 = \text{"Верховая езда";}\\ \text{ 4. } x_1\land x_5\lor x_2\land x_6 \to R_4 = \text{"Байдарка";} \\ \text{ 5. } x_3\land (x_4\lor x_6) \to R_5 = \text{"Дискотека";}\\ \text{ 6. } x_2\land x_7 \to R_6 = \text{"Пешая прогулка";}\\ \text{ 7. } x_3\land (x_5\lor x_7) \to R_6 = \text{"Пешая прогулка".} $$

    Планируя пешую прогулку, бабушка первоначально получила следующее выражение:

    $$ (x_2\land x_7\lor x_3\land x_5)\lor (x_3\land x_7) \to R_6 = \text{"Пешая прогулка"}. $$

    Однако выше не напрасно обращается внимание на целесообразность однократного вхождения переменных в подобное выражение. (Ведь далее, при переходе к функции активации нейрона, возможно неоднократное суммирование одних и тех же переменных.) Выражение, полученное первоначально, с помощью эквивалентных преобразований привести к такому виду не удаётся. Тогда бабушка решает разбить это выражение на два подобных, сформировав получение одного и того же решения ("размножив" решение) на основе двух условий. Это и послужило появлению в (П.6) двух выражений, определяющих одно решение R6.

    Легко убедиться, что все возможные ситуации факторного пространства событий охвачены, что демонстрирует полную ясность действий бабушки.

    Системы принятия решений могут образовывать сложные иерархические структуры. В этом случае необходимо, чтобы высказывания-решения R1, ..., Rm отображали события, образующие ИМС.

    "Схемотехническое" представление системы принятия решений

    Отобразим (c нарушением некоторых стандартов) схемотехнически бабушкину СПР, подобно электронной схеме (рис. П.4) с помощью конъюнкторов и дизъюнкторов. На вход будем подавать значения истинности переменных-высказываний (ситуации) так, чтобы на одном из выходов формировалась единица - значение истинности соответствующего решения. Задавать значение ситуаций следует корректно, чтобы соблюдать требования вхождения переменных в исчерпывающие множества событий.

    (рис 1.4) «Электронная» схема системы принятия решений

    Реализовав эту схему на логических элементах, бабушка получит реальное средство подсказки: что она должна делать в данное время года и суток.

    Например, бабушка хочет вспомнить, чем она должна заниматься летом после обеда. Она полагает x2 = x5 = 1 при нулевых значениях других переменных и запускает программу, моделирующую работу электронной схемы. На выходе R3 формируется сигнал, соответствующий высказыванию "Верховая езда".

    Электронная схема, имитирующая систему принятия решений, требует корректного задания исходной информации, т.е. корректной формулировки вопроса в соответствии со смыслом задачи. Одновременно должна существовать уверенность в получении единственного решения, в том числе предполагающего задание альтернативных вариантов, если это предусмотрено при построении СПР. В таком случае окончательный выбор альтернативы может быть предусмотрен при развитии системы, при анализе новых вводимых факторов. При некорректной формулировке вопроса возникнут коллизии, неоднозначные или неправильные выводы. Таким образом, СПР может отвечать только на те вопросы, на которые она настроена.

    Достоверность высказываний о событиях

    Говоря о высказываниях как о логических переменных, мы, несомненно, предполагаем наличие субъективного фактора: ведь это кто-то сказал. И мы говорим верному другу: "Я мало доверяю этому человеку, но он сказал ..., а дыма без огня не бывает".

    Очевидно, недостаточно резких, кардинальных, взаимоисключающих, крайних суждений о высказываниях, подразделяющих их на истинные и ложные. Жизненный опыт говорит, что стопроцентной правды не бывает.

    Таким образом, необходимо ввести понятие достоверность высказывания, которая идеально представляет вероятность того, что данное высказывание о свершении события истинно, т.е. представляющая его логическая переменная равна 1.

    В этой оценке достоверности вновь практически преобладает субъективный фактор. Поэтому при построении экспертных систем применяется двойная оценка: оценка, данная экспертом по запросу, и вес самого эксперта. Здесь эффективно используется аппарат нечётких множеств.

    Говоря о сложных высказываниях, отображаемых деревьями логических возможностей, тем более трудно судить о достоверности высказываний о событиях, особенно тех, которые отображаются концевыми вершинами.

    Рассмотрим пример. Информатор сообщает Агенту о том, что видел своими глазами, как Марина передала Васе пачку денег. Напрягая богатый опыт, Агент рассуждает логически:

  • Насколько можно доверять Информатору, который три дня не брился и от которого дурно пахнет?
  • Мог ли находиться Информатор в это время в нужном месте, чтобы "видеть своими глазами"?
  • Насколько верно то, что в переданной пачке были деньги?
  • Можно ли оперативно воспользоваться существующими математическими методами оценки (например, аппаратом нечётких множеств) заодно учитывающими другие факторы, как, например, личные финансовые затруднения, или необходимые оценки следует выполнить интуитивно, "с потолка"?
  • Так какова же должна быть формулировка отчёта в Центр, для получения максимального вознаграждения за поимку взяточника?
  • Таким образом, видно, что оценка достоверности высказываний неизбежна, но представляет значительные практические трудности, тем более, - при требуемой оперативности этих оценок, столь важной в реальных системах управления и принятия решений.

    Итак, на основе алгебры высказываний можно создавать электронные системы принятия решений: на входе задавать ситуацию, на выходе получать указание на правильную реакцию. Всё дело лишь в интерпретации предметной области - во вскрытии причинно-следственных связей, в исследовании личного или коллективного опыта, в изучении теории. Необходимы и схемотехнические навыки запоминания связей.

    Однако смущают два обстоятельства:

  • Неопределённость исходной информации о ситуациях, исключающая точный ответ на вопрос о наличии или отсутствии события и делающая неправомерным использование исключительно булевых переменных. Высказывания не бывают истинными и ложными, как это предполагается в классической математической логике. Высказывания оцениваются своей достоверностью, которая принимает действительные значения на отрезке [0, 1], и подчиняется известным положениям теории вероятности.
  • Способность человека логично мыслить на неформальном уровне не реализуется с помощью конъюнкторов и дизъюнкторов в составе мозга. Именно вскрытие механизмов мышления, особенно того, которое мы называем рефлекторным, привлекает внимание исследователей. Необходимо искать механизмы мышления, оперирующие не с булевыми переменными, а с действительными, несущими смысл достоверности.
  • Пусть рассмотренные выше переменные-высказывания {xi}, образующие факторное пространство, могут принимать значения достоверности $$\{P_i\}, 0 \leq P_i \leq 1, i = 1, ..., M$$.

    Так как факторное пространство формируется на основе исчерпывающих множеств событий, то внутри каждого такого множества выполняется известное правило нормировки: сумма достоверностей событий каждого такого множества равна единице.

    Перегруппируем события и дополним дерево логических возможностей, представленное на рисунке 1.1, указав на его ветвях (стрелках), в качестве весов этих ветвей, значения достоверности событий (рис. 1.5). Получим вероятностное дерево логических возможностей [21].

    При организации ветвления в этом дереве также предполагаются все возможные альтернативы, т.е. исчерпывающие множества событий. Поэтому сумма вероятностей всех событий, отображаемых вершинами, которые связаны входящими стрелками, исходящими из некоторой вершины, равна единице.

    (рис 1.5) Вероятностное дерево логических возможностей

    В отличие от дерева логических возможностей, вероятностное дерево явно отображает зависимость событий. События, зависимые от данного, отображаются более низкими уровнями ветвления. Такая зависимость определяется на уровне смыслового анализа факторного пространства.

    Например, логично предположить, что формы труда, отдыха и спортивных развлечений зависят от времени года, затем, — от распорядка приёма пищи. Такая зависимость и отображается на рис. 1.5.

    Тогда достоверность событий формируется с помощью условных вероятностей, зависящих от путей, по которым достигаются эти события. Поэтому на вероятностном дереве логических возможностей целесообразно повторять вершины одного смыслового содержания, в результате чего размножаются варианты ветвления, а дерево существенно разрастается. От совмещения путей страдает наглядность, и не более того.

    Чтобы найти вероятность некоторого события b при условии свершения события а (событию а может соответствовать корневая вершина, тогда речь идёт о полной, а не условной вероятности), необходимо найти все пути, ведущие из a в b. По каждому пути необходимо перемножить все веса ветвей. Полученные по всем путям произведения необходимо сложить.

    Пример 1. Найдём вероятность того, что отдыхающий весной и летом в произвольно выбранный момент времени совершает прогулку верхом:

    $$ 0,25\times 0,33\times 0,5\times 0,4 + 0,25\times 0,33\times 0,3 = 0,04125. $$

    Пример 2. Найдём вероятность того, что в произвольно выбранный момент времени в течение года отдыхающий совершает прогулку верхом:

    $$ 0,25\times 0,33\times 0,5\times 0,4 + 0,25\times 0,33\times 0,3 + 0,25\times 0,33\times 0,2 = 0,05775. $$

    Система принятия решений на основе достоверности высказываний о событиях

    Изменения, внесённые в дерево логических возможностей и представленные на рис 1.5, отобразим в электронной схеме системы принятия решений, представленной на рис. 1.4. Теперь исходными данными для конъюнкторов и дизъюнкторов становятся не булевы, а действительные значения, для которых логические операции не определены (рис. 1.6). Так перейдём к понятию нечёткой логики.

    (рис 1.6) Система принятия решений на основе достоверности событий

    Следуя далее по пути приблизительных оценок (ибо практически достоверность, как категория теории вероятностей, принадлежит области весьма приблизительных оценок), разработаем некоторый суррогат операций конъюнкции N1 и дизъюнкции N2 на основе передаточной функции или функции активации некоторого порогового элемента. Этот элемент преобразует сумму входных величин в выходные значения, которые приближённо "напоминают" результаты упомянутых логических операций. Данный путь – путь ухода от точного выбора в сторону выбора решения на основе степени похожести ситуаций на уже известные. Это путь ассоциативного мышления. Так мы перейдём к рассмотрению тех нейроподобных элементов, что реализованы в природе!

    Существует множество вариантов подбора пороговой передаточной функции, или функции активации, лежащей в основе такого элемента.

    Введём сквозную нумерацию всех узлов схемы, реализующих дизъюнкцию и конъюнкцию. Пусть i - номер такого узла, j - номер входа этого узла при количестве mi активных входов (в данном примере каждый узел имеет два входа), $$\omega_j$$ - вес входа. Тогда простейшая функция активация (обратите внимание: наши помыслы сосредоточены на нейроне!) fi, реализуемая i-м узлом для замены логических операций конъюнкции и дизъюнкции, имеет вид

    $$f_i=\begin{cases} \sum_{j=1}^{m}{f_j\omega_j } \text{если } \sum_{j=1}^{m}{f_j\omega_j }-h\geq 0, \\ 0 \text{в противном случае} \end{cases}$$

    Здесь fj — величина сигнала, поступающая на j-й вход.

    Тогда элемент N1, подобный конъюнктору, может быть реализован при $$\omega_j = 1/m_i, j = 1, ..., m_i$$, с помощью существенно высокого порога (рис. 1.7), где значение $$\delta_i$$ обусловлено некоторой поправкой, достаточной, чтобы для преодоления порога сигналы возбуждения с большой степенью уверенности поступали обязательно по всем входам.

    (рис 1.7) Элемент N1

    На этапе настройки и верификации СПР предполагается, что входные сигналы — булевы переменные, принимающие значения 0, 1. Тогда целесообразно выбрать значение $$\delta_i < 1/m_i$$. Очевидно, что для того, чтобы преодолеть порог, на всех входах должны быть "1"; недостаток хотя бы одной "1" приведет к тому, что сумма поступивших сигналов будет более чем на 1/mi меньше указанной суммы весов.

    При переходе к действительным переменным, когда вместо событий рассматриваются, например, лишь предполагаемые вероятности их наступления, экспериментальное уточнение значения $$\delta_i$$ может обусловить ту границу, когда считаться с возможностью данной комбинации событий нецелесообразно.

    Элемент N2, подобный дизъюнктору, реализуется, наоборот, при низком значении порога и при $$\omega_j = 1, j = 1, ..., m_i$$(рис. 1.8, единичные веса не обозначаются). Порог выбирается так, чтобы уже при возбуждении на одном входе возникал сигнал возбуждения на выходе. При этом если дизъюнкция задана на исчерпывающем множестве событий, как это чаще всего бывает, сигнал на выходе не превышает "1", а значение $$\delta_i$$ выбирается экспериментально достаточно малым.

    (рис 1.8) Элемент N2

    Задав на входе СПР значения достоверности переменных-высказываний и рассчитав значения на выходах пороговых элементов, на выходах схемы получим некоторые значения. Максимальное из этих значений "голосует" в пользу соответствующего решения.

    Предложения, касающиеся создания пороговых элементов N1 и N2, носят лишь рекомендательный характер. Здесь неограниченный простор для творчества.

    Напомним, что корректность задания исходной информации (соблюдение условия нормировки на исчерпывающих множествах событий, оценки достоверности с помощью вероятностного дерева логических возможностей) гарантируют практически приемлемый результат. Если же на входах задавать что угодно, то СПР преобразует это в какую угодно рекомендацию по принципу: "каков вопрос — таков и ответ".

    На рассмотренном жизненном примере проанализируем принимаемые бабушкой решения на основе двух вариантов СПР: с помощью электронной схемы (рис. 1.4), использующей определённость знания о ситуации, и с помощью схемы, основанной на неопределённости, на предполагаемой достоверности этих знаний (рис. 1.6). Положим (на основе интуиции) $$\delta_i = 0,3$$ для всех i. Данные сведены в таблицу 1.1.

    Сравнительные оценки получаемых решений
    ПеременныеРешение по электронной схеме Решение на основе достоверности событий
    x1 (P1)x2 (P2)x3 (P3)x4 (P4)x5 (P5)x6 (P6)x7 (P7)
    1 1 R1R1
    1 1 1R3R3
    1 1 Нет решенияНет решения
    0,80,2 0,40,5 Решение не определеноR2
    0,20,40,61 0,5Решение не определеноR2

    Более точный выбор значения $$\delta_i$$ производится на этапе верификации СПР по известным вариантам нахождения решения. В данном случае представляется, что этот выбор произведён успешно.

    Минимизация длины логической цепочки в системе принятия решений

    Замена логических операций операцией суммирования при счёте передаточной функции приводит к актуальности однократного учёта всех входящих переменных, т.е. к единственности вхождения переменных в каждое логическое выражение, составляющее описание системы принятия решений. Выше с целью обеспечения такого единственного вхождения переменной был использован приём "размножения" решения R6.

    При разработке электронных схем исследуется понятие "длина логической цепочки" - под ней подразумевается максимальное количество электронных элементов, которое должен преодолеть сигнал на входе схемы, пройдя последовательное тактируемое преобразование, чтобы на выходе схемы сформировался сигнал. От этой длины, определяющей время переходного процесса, зависит быстродействие схемы. Поэтому актуальной задачей является минимизация максимальной длины логической цепочки при возможности параллельного выполнения всех таких цепочек (что характерно для прохождения электрического сигнала по схеме).

    Очевидно, что в схеме на рис. 1.4 максимальная длина логической цепочки равна двум.

    Применим ко всем выражениям (1.5), каждое из которых является или может быть преобразовано в дизъюнкцию конъюнкций, приём "размножения" решений. Теперь (рис. 1.9) схема состоит из цепочек единичной длины. Каждый входной сигнал подвергается обработке только конъюнктором. Так как электронная схема полностью определяет конструкцию системы принятия решений на основе достоверности событий, то можно преобразовать полученную электронную схему в однослойную схему СПР, показанную на том же рисунке.

    (рис 1.9) Преобразование электронной схемы с единичной длиной логической цепочки в однослойную систему принятия решений

    Таким образом, доказано следующее утверждение:

    Любая СПР, сформированная на основе логического описания булевыми функциями, способом "размножения" решений преобразуется в однослойную СПР на основе достоверности событий.

    Преимуществом таких СПР является то, что они представляют собой таблицы с ассоциативной выборкой по принципу наибольшей похожести.

    Конечно, можно за каждым решением закреплять один выход СПР, на котором объединить общее решение, полученное по разным путям, в виде текста. При корректно заданных исходных данных – на основе правил использования исчерпывающих множеств событий – СПР будет "работать" правильно, выдавая адекватные ответы. Тогда рекомендация "Прими решение R" будет выдана, но информация о пути, приведшему к этому решению, будет утрачена.

    При составлении "электронной" схемы такое объединение производится с помощью операции дизъюнкции, что приводит к длине логической цепочки, равной двум. Но ведь если, формируя структуру СПР, строго следовать порядку построения "электронная схема $$\to$$ система принятия решений", то и СПР будет иметь максимальную логическую цепочку с длиной, равной 2.

    Таким образом, "размножение" решений – операция, целесообразность которой свойственна СПР, что делает её построение отличающимся, развивающим "схемотехнический" подход. "Электронные" схемы целесообразно использовать на начальном этапе исследования логического описания СПР, а далее, оттолкнувшись от них, перейти к более совершенной однослойной структуре.

    "Размножение" решений имеет важное достоинство. Оно позволяет установить причину, дополнительно объяснить принимаемое решение, учесть в тексте аргументацию. Это означает, что текст решения может быть дополнен указанием причины принятия именно такого решения.

    Например, получив информацию о необходимости заказа велосипеда в отделе спортинвентаря, бабушка может воспользоваться и важным объяснением: "… потому что сейчас, скорее всего, весна, а Вы, вероятно, только что сытно позавтракали" (рис.1.10).

    (рис 1.10) Бабушка

    Таким образом, построен алгоритм параллельных (бесформульных!) вычислений сложных логических конструкций в области действительных переменных, предназначенный для реализации высокого быстродействия в системах управления и принятия решений. Более того, сведение СПР к однослойной нейросети приводит к применению лишь тех передаточных функций (элементов N1 на рис. 1.6 и 1.9), которые имитируют конъюнкторы. Это служит повышению достоверности оценок, стандартизации и адекватности природным процессам.

    (рис 1.11) Логическая нейронная сеть БАБУШКА.

    От логических операций совершён переход к их некоторым суррогатам на основе передаточной функции. Операционной основой этой функции является сложение взвешенных сигналов на входе. Логические переменные оказались заменёнными действительными – достоверностью высказываний.

    Изображая передаточную функцию буквой N, и уже назвав её однажды функцией активации, мы подразумеваем нейрон, нейроподобный элемент - исполнитель этой функции активации, способный, подобно кирпичику, участвовать в образовании сложных сетевых структур. Теперь мы можем на рисунке 1.9 заменить квадратики кружочками, подразумевая нейроны, как это отображено на рис. 1.11.

    При этом функции активации являются простейшими (монотонно возрастающими по каждому сигналу на входе), и выбираться "на вкус". Как говорилось выше, операция сложения взвешенных сигналов на входе является основой такой функции. Практически всегда весами являются "нули" или "единицы".

    В данном примере можно рекомендовать функцию активации:

    Значение h = 1 гарантирует выполнение условия $$0 \leq V_i \leq 1$$. Это упрощает применение формируемого на выходном слое сигнала для входа в следующую нейронную сеть длинной логической цепочки.

    Выбор и обоснование функции активации нейрона

    Требования к функции активации:

  • Эти функции в области преодоления порога должны быть монотонно возрастающими по каждому сигналу на входе нейрона;
  • Сигнал возбуждения при его прохождении по сети не должен угасать;
  • Сигналы возбуждения на выходном слое должны быть четко различимы по величине для различных эталонных ситуаций;
  • Должен быть примерно равным диапазон изменения величин возбуждения нейронов выходного слоя, закрепленных за разными решениями.

    Приведём ряд функций активации, тривиальных по выполнению и используемых в данной книге:

  • Достаточно универсальной функцией активации является функция возбуждения нейрона по усреднённому значению сигналов на его входах (дендритах). Это усреднённое значение сигналов и принимается, как величина возбуждения нейрона.

    , $$V := if \leq h \text{ then V else 0}.$$

    Если все веса $$\omega_i = 1$$, то функция активации находится:

  • Не следует забывать, что нейронную сеть, реализующую СПР, необходимо рассматривать как одно звено в цепочке логического вывода, вырабатывающее информацию для последующих звеньев цепочки. Это позволяет строить сложные, многоуровневые СПР, как цепочки логических выводов, реализующие дедуктивное и даже индуктивное мышление.

    Конкретно это означает, что величины возбуждения нейронов выходного слоя должны, как и величины возбуждения рецепторов, принадлежать диапазону [0, 1], моделируя всё ту же достоверность выводов.

    В однослойных нейронных сетях, где хороша каждая из перечисленных функций активации, предлагается использовать функцию активации 5. Здесь особенно актуально то, что прообразом нейрона выходного слоя является конъюнктор. Легко видеть, что величина возбуждения каждого нейрона сети удовлетворяет указанному диапазону.

    Функция активации 4 применима в задачах логического вывода, а также в системах диагностики, т.к. близка к воспроизведению булевой переменной.

    Можно придумать и другие функции активации, удовлетворяющие приведённым выше требованиям.

    Краткие итоги

  • Корректно составленная система принятия решений оперирует исчерпывающими множествами событий.
  • Несколько исчерпывающих множеств событий, являющихся предметом исследования при построении системы принятия решений, образуют факторное пространство событий.
  • Взаимосвязь событий различных исчерпывающих множеств целесообразно отображать деревом логических возможностей. Оно позволяет выделять множества совместных событий, находить вероятности их наступления, строить факторные подпространства событий.
  • Дерево логических возможностей позволяет корректно строить логические функции в основе системы принятия решений.
  • Реализация логических функций по технологии "электронных" схем позволяет построить систему принятия решений, оперирующую с булевыми переменными. Применение исчерпывающих множеств событий исключает необходимость операции НЕ.
  • Переход от булевых переменных к действительным – к достоверностям высказываний о наступлении событий – возможен с помощью нечёткой логики, основанной на приближённом исполнении схем И и ИЛИ на нейроподобных элементах.
  • Дальнейший переход к нейронным сетям при сохранении правильной работы системы принятия решений также оказывается результативным, так как следует Природе.
  • Структура нейронной сети может быть значительно упрощена по известным в математической логике и в схемотехнике методам сокращения максимальной длины логической цепочки. Так формируются однослойные нейронные сети.
  • Вопросы:

  • Что представляет собой исчерпывающее множество событий?
  • Что представляет собой факторное пространство событий и как его структуризация с помощью дерева логических возможностей помогает корректно сформировать логическое описание системы принятия решений?
  • Как формируется полное и непротиворечивое логическое описание системы принятия решений?
  • Как логическое описание преобразуется в форму, предполагающую однослойную нейронную сеть?
  • Как осуществляется переход к нечётким данным – к достоверностям высказываний о наступлении событий?
  • Как на основе "схемотехнического" подхода производится обоснование однослойных логических нейронных сетей, реализующих системы принятия решений?
  • Вернуться к учебному плану