О работах в области моделирования мышления

Кибернетика

Работы, направлявшиеся на понимание и автоматизацию (имитацию) мышления, велись под разными флагами. Первым и самым большим из этих флагов была кибернетика - наука об управлении в технике, природе и обществе. Кибернетика не стала наукой. Слово "кибернетика" сейчас чаще всего используется как родовое понятие для разных научных направлений, объединяемых тем, что они занимаются получением, обработкой, передачей, хранением и использованием информации. Кибернетика как новая наука была предложена Норбертом Винером в 1948 г. Содержательная часть кибернетики состояла в попытке обобщения понятия управления и в провозглашении единства (схожести) принципов и процессов управления в технике, живой природе и обществе. Утверждалось, что в живой природе реализуются те же принципы управления, что и в технике, а именно управление по отклонению на основе отрицательных обратных связей и управление по возмущению - схема стимул-реакция (т. е. рефлексы).

Эти представления прекрасно сочетаются со сформулированным русским физиологом И.П. Павловым (задолго до возникновения кибернетики) общим принципом поведения живых организмов, звучащим как "уравновешивание со средой". Эти же представления легли в основу концепции гомеостаза и гомеостата (Эшби), а также в основу многочисленных как теоретических, так и технических моделей поведения и мышления, строящихся по схеме стимул-реакция. Об этом еще будем подробно говорить в дальнейшем.

Провозглашение общих принципов кибернетики имело как положительное, так и отрицательное значение. Положительное значение состояло в том, что кибернетика подтолкнула ученых, и в первую очередь представителей точных наук, к исследованию и моделированию информационных процессов, связанных с поведением, восприятием и мышлением. Математики и инженеры стали интересоваться физиологией и психологией. Начались попытки проведения комплексных междисциплинарных исследований.

Отрицательное значение общих принципов кибернетики состояло в том, что на этой основе часто упрощались (и даже примитивизировались) представления о живом и в особенности представления о поведении животных. Подчеркивалась общность, и отодвигалось на задний план принципиальное различие между живым и неживым. Излишнее внимание уделялось (а часто уделяется и сейчас) гомеостазу, обратным связям, схеме стимул-реакция, проблеме "уравновешивания со средой". В то же время недостаточное внимание уделялось аспектам активности и целенаправленности. (Об этом мы подробно будем говорить в дальнейшем.)

Кроме того, на первых порах с энтузиазмом обсуждался вопрос о сходстве между устройством мозга и устройством вычислительной машины. Появлялась масса статей и книг, таких как, например, "Мозг как вычислительная машина" (Джордж), "Конструкция мозга" (Эшби), "Алгоритмы разума" (Амосов).

В начале работ по кибернетике часто в разных аспектах проводились неправомочные прямые параллели между мозгом и вычислительной машиной. Так, очень часто, сравнивая мозг и вычислительную машину, в качестве важного различия говорили, а иногда и сейчас говорят, о том, что ЭВМ - это последовательный вычислитель, а мозг - огромный, включающий 14 млрд. нейронов, параллельный. Однако уже давно совершенно очевидна неправильность такого поверхностного сравнения. Говорить о том, что мозг - это мощный вычислитель, и сопоставлять операции, которые выполняет человеческий мозг, с операциями вычислительной машины нельзя. Это совершенно разные операции.

Человек, несмотря на якобы параллельную организацию своего "вычислителя", не может делать 100 тысяч сложений в секунду. Он, как правило, и одного сложения за секунду сделать не может. При этом человеку удается решать некоторые задачи, которые машина при всей своей вычислительной мощности решать не может либо решает долго, на основе перебора. И дело здесь не в том, что машина - это последовательный вычислитель, а мозг - параллельное "устройство". Просто мозг и вычислительная машина решают свои задачи совсем по-разному. Тем не менее до сих пор иногда возникают работы, в которых говорится (как об открытии) о том, что мозг и вычислительная машина работают совершенно по-разному, хотя в этом уже давно можно не сомневаться.

В дальнейшем мы постараемся более или менее подробно обосновать, что, говоря о работе мозга, не следует использовать термины "алгоритм" и "программа", поскольку то, что управляет работой мозга в процессе мышления, ни алгоритмом в строгом смысле, ни программой, по-видимому, не является. Не является то, что происходит в мозге, и вычислениями.

Бионика

Так называемая интеллектуализация машин велась под разными флагами. Один из них назывался бионика. Бионика инициировалась кибернетикой, и общая цель бионики формулировалась как перенос в технику "изобретений" природы. Под этим флагом открывались многочисленные лаборатории, часто объединявшие инженеров и физиологов. Например, многочисленные лаборатории в различных организациях Министерства радиопромышленности, НИИ нейрокибернетики РГУ, студенческие группы в РГУ, которым в равном объеме читались физиология и математика, группы с бионическим уклоном на физфаке МГУ и т. п.

Одной из наиболее важных задач бионики считалось использование в вычислительной технике знаний из области нейрофизиологии мозга. Однако достаточно быстро выяснилось, что переносить из нейрофизиологии в вычислительную технику нечего, при этом не только потому, что физиология не располагает достаточной конструктивной и целостной информацией о работе мозга, но и попросту потому, что эта информация вычислительной технике не нужна. Современная вычислительная машина на мозг не похожа. Устройство и принципы работы современной вычислительной машины не имеют ничего общего с устройством и принципами работы мозга.

Взаимодействие между физиологами и инженерами не получилось. Совместные междисциплинарные исследования в основном остались лозунгом.

Естественно, бионический бум 60-х годов, когда основной и единственной целью провозглашалось создание технических устройств или практически используемых программ, окончился полным крахом. Правда, были и исключения, не связанные с мышлением. Например, некоторые результаты исследований эхолокации летучих мышей использовались в радиолокации.

В целом, междисциплинарные исследования принципов работы мозга, которые велись под общим флагом - кибернетика или под частным флагом - бионика, принесли свою пользу хотя бы потому, что было привлечено внимание инженеров и математиков к проблемам, которые до этого считались исключительно делом психологов и физиологов. Это привело к многочисленным попыткам применения к описанию мозга и мышления как формальных аналитических средств, так и средств программного или технического моделирования, что, безусловно, принесло пользу для общего понимания проблем.

Алгоритмический Искусственный интеллект

Еще одним флагом, под которым велись и ведутся работы в рассматриваемой области, был и до сих пор остается "Искусственный интеллект".

Термин "Искусственный интеллект" (ИИ) используется в двух разных смыслах. Во-первых, ИИ может отождествляться с искусственным (машинным) мышлением. В этом случае вопросы "Возможен ли искусственный интеллект?" и "Может ли машина мыслить?" - это один и тот же вопрос. Во-вторых, ИИ - это название научного направления.

В Советском Союзе направление "Искусственный интеллект" пришло на смену кибернетическому буму первой половины 60-х годов.

Сначала оптимистам казалось, что вот-вот произойдет революция и вычислительная машина начнет думать по-человечески. Однако ничего подобного не произошло. Стало ясно, что полноценное искусственное мышление быстро построить нельзя. Поэтому стали говорить, что нужно заниматься не научными спекуляциями и не исследованиями с непонятной перспективой, а искусственным интеллектом, т. е. просто машинным решением трудноформализуемых задач - таких задач, которые человек решает, а машина нет. Таким образом, первоначально ИИ не претендовал на прямое моделирование мышления человека.

И все-таки с самого начала явно или неявно предполагалось, что эти работы позволят сформулировать обобщения и выработать специфические методы ИИ, ведущие в конечном счете к машинному мышлению. Представители возникшего направления полагали (и полагают), что в понимании и моделировании мышления полезно идти от специфики задач к методам их решения, вводя "интеллект" как механизм, необходимый для решения.

Какие задачи традиционно относят к области ИИ? Оказалось, что таких задач много. Это понимание машиной естественного языка, т. е. системы "вопрос-ответ" и доступ к базам данных на естественном языке, перевод с одного языка на другой, распознавание образов, анализ изображений 3-мерных сцен, логистические системы представления знаний и логический вывод, эвристическое программирование, доказательство теорем, принятие решений, игры, базы данных, базы знаний, роботы, экспертные системы и др.

Перечисленные задачи, по-видимому, можно действительно считать специфическими трудноформализуемыми "человеческими" задачами, и возникает проблема выявления в этих задачах общности, определяющей необходимость мышления.

На определенную общность ориентировались такие направления, как эвристическое программирование, построение систем представления знаний и разработка методов поиска решений.

Эвристическое программирование основано на психологическом анализе и попытках формализации методов решения, используемых человеком. Серьезных обобщений получить не удалось. Универсальный решатель проблем ( GPS Ньюела, Шоу и Саймона) не получился. Часто не удавалось формализовать методы решения и одной-единственной задачи. Например, не удалось формализовать мышление шахматиста.

Важными и перспективными можно считать работы по разработке систем представления знаний. Предназначаемые главным образом для решения задач машинной лингвистики, иерархические системы представления и использования знаний обычно строятся на основе математической логики, фреймов, семантических сетей или графов. Все такие системы можно считать шагом в нужном направлении, т. е. в переходе от данных к знаниям, хотя они и являются не активными моделями, а пассивными описаниями. На разнице между моделью и описанием мы еще будем останавливаться в дальнейшем.

Говорят, что любая "интеллектуальная" система, например, система управления, перевода или восприятия, должна уметь строить и использовать семантическую модель мира. Это, безусловно, верно, как верно и то, что достаточно общего решения эта проблема пока еще не имеет.

Коротко о проблеме поиска решений.

Общая схема: $$(S_0)\Rightarrow\{A\}\Rightarrow(S_k)$$

Начальная ситуация: " $$S_0$$ " может иметь интерпретацию от простого сигнального стимула до сложной ситуации. Соответственно, идентификация " $$S_0$$ " в среде решаемой задачи может быть разной - от очень простой до очень сложной, требующей специальных методов распознавания.

" $$S_k$$ " может иметь интерпретацию от конкретной целевой ситуации до ситуации, определяемой как обобщение. В последнем случае необходимо формирование конкретных целей (дедукция) и выбор между ними.

" $$A$$ " может иметь интерпретацию от простой реакции до сложной последовательности действий, ведущих к переходу в промежуточные ситуации, и от однозначной реакции типа рефлекса (ситуационное управление) до выбора из множества возможностей.

В общем случае большинство задач может представляться как поиск пути на графе путем перебора. Перебор сокращается, если возможны точные или эвристические оценки промежуточных ситуаций в отношении приближения к цели. В этом случае в одноэкстремальных задачах возможно построение градиентных алгоритмов управления. В многоэкстремальных задачах полный градиентный алгоритм невозможен, но можно на основе какой-то общей информации о задаче и эвристик пытаться упорядочивать перебор или сокращать пространство поиска.

Если нет никакой обобщающей информации о многоэкстремальной задаче, то ее решение может гарантировать только полный перебор.

Среди конкретных задач наиболее актуальными были машинная лингвистика и машинное зрительное восприятие. Определенные комплексные исследования велись под флагами "экспертные системы" и "интегральные роботы".

В экспертных системах центральными моментами были базы данных, информационный поиск и общение человека с базами данных, распознавание ситуаций по признакам и связывание ситуаций с рекомендациями и, в некоторых случаях, с управляющими действиями. Это связывание может происходить с использованием знаний экспертов как по схеме стимул-реакция, так и на основе формальных методов поиска решений - главным образом с использованием исчисления предикатов и его расширений.

При создании роботов главные вопросы - это зрительное восприятие трехмерных сцен и управление движением тележки или манипулятора. Роботы используются в программируемых технологических операциях, например, таких как покраска автомобиля, либо как игрушки.

Можно считать, что конструктивных обобщений методов ИИ, применимых к разным задачам и принципиально отличающихся от традиционных способов решения, создано не было. В частности, сейчас машины прекрасно играют в шахматы. Практический уровень игры машины сопоставим с уровнем игры чемпиона мира. Машина решает эту задачу за счет мощных вычислительных возможностей, в основном перебором огромного числа вариантов и использованием как точных, так и эвристических правил оценки сравниваемых позиций.

Если задача машинной игры в шахматы поддалась "силовому" решению, то успех в решении многих других задач практически отсутствует. Главным инструментом в системах ИИ была и остается логика предикатов и ее расширения (вероятностная логика, логика с часами и т. п.). Принципиальных прорывов не было и нет. Поэтому нет и серьезных практических успехов.

Так, не был реализован японский проект ЭВМ 5-го поколения, направлявшийся главным образом на создание естественных зрительных и речевых форм общения между человеком и компьютером и дружелюбного "интеллектуального" интерфейса. Ставилась задача радикального упрощения программирования. Приводились кривые роста населения земного шара и роста числа программистов. Эти кривые при их экстраполяции пересекаются. Выяснилось, что для реализации этого проекта недостаточно построить "глаз" и "ухо". Оказалось, что нужно еще и понять, как работает мозг. (Впрочем, решающее значение этого вопроса было ясно многим с самого начала проекта.)

По тем же причинам отсутствует качественное продвижение в решении таких задач, как анализ 3-мерных сцен и перевод с одного языка на другой. Точно так же и роботы, как и 30 лет назад, остаются либо устройствами для выполнения сложных стандартных технологических операций, либо все более и более сложными игрушками, не идущими, тем не менее, в своем обучении и поведении дальше условного рефлекса, динамического стереотипа, т. е. фиксированной последовательности действий, или принятия решений по простому набору правил.

Распознавание образов

К исследованиям в области ИИ примыкают работы по распознаванию образов. Первоначально ставившаяся общая задача восприятия сложной среды постепенно выродилась в упрощенную задачу классификации. Традиционные программы или устройства распознавания образов - это чаще всего пассивные признаковые системы классификации объектов, рассматриваемых по отдельности. Серьезных теоретических успехов, имеющих значение для понимания механизмов мышления, на этом направлении не получено. Эти системы не обладают такими свойствами живого восприятия, как целостность, целенаправленность и "распознавание с пониманием", основывающееся на использовании модели среды.

В дальнейшем мы еще будем говорить о перцептивном мышлении (мышлении при восприятии), которое включает не только узнавание отдельных объектов, но и целостное восприятие окружающей среды. При этом должно происходить управление процессом восприятия с понятийного уровня. Восприятие должно основываться на предвидении, формирующем "акцептор восприятия" и гипотезы восприятия. Должен использоваться контекст и максимально полная семантическая модель проблемной среды.

Классическое распознавание образов прямого отношения к перцептивному мышлению не имеет. "Восприятие с пониманием", о котором мы еще будем говорить в дальнейшем, можно считать упрощенной, но в то же время важной частью перцептивного мышления.

Для алгоритмического ИИ характерно отсутствие заметных продвижений в решении проблемы понимания и моделирования мышления. Это, по-видимому, связано с тем, что целостное мышление не может возникнуть из суммы решенных отдельных "интеллектуальных" задач. Кроме того, недостаточно изучать методы решения таких задач. Необходимо также понять работу активных нейронных механизмов решения.

Формальные нейронные сети

Моделирование нейронных сетей проводилось, но эти работы велись и ведутся независимо от алгоритмического ИИ. Не ориентировались эти работы и на решение обычных "интеллектуальных" задач. Единственной практической задачей, успешно решаемой нейронными сетями, было и остается распознавание образов. Можно выделить три разных вида формальных нейронных сетей - логические сети, растровые распознаватели, признаковые распознаватели.

Серьезных теоретических успехов, имеющих значение для понимания механизмов мышления, у направления, называемого нейронаукой, нет.

Это в первую очередь относится как к логическим нейронным сетям, так и к окутанным чуть ли не мистическим туманом искусственным или формальным растровым и признаковым распознающим нейронным сетям. Часто их рассматривают даже как какой-то аналог мозга. В последнее время в текстах просто пишут "нейронные сети", опуская прилагательные "искусственный" или "формальный". На самом деле, признаковая распознающая нейронная сеть (ПРНС) - это просто пассивный признаковый классификатор, строящий разделяющие гиперплоскости в пространстве признаков.

Используемый в этих сетях формальный нейрон - это сумматор с пороговым элементом, который подсчитывает сумму произведений значений признаков на некоторые коэффициенты, являющиеся не чем иным, как коэффициентами уравнения разделяющей гиперплоскости в пространстве признаков. Если сумма меньше порога, то вектор признаков находится по одну сторону от разделяющей плоскости, если больше - по другую. Вот и все. Кроме классификации по признакам, никаких чудес. Сеть из формальных нейронов может также аппроксимировать плоскостями нелинейные разделяющие поверхности и объединять по результату несвязанные области пространства признаков. Это и делается в многослойных сетях.

Во всех случаях ПРНС - это пассивный признаковый классификатор, выделяющий области в фиксированном пространстве признаков. Никаких других задач ПРНС решать не может, причем задачу распознавания ПРНС решает не лучше обычных признаковых распознавателей, использующих аналитические методы.

Еще меньшими возможностями в плане распознавания образов обладают идущие от модели Хебба и перцептрона Розенблатта растровые нейронные распознаватели. Хотя, конечно, такие распознаватели, в которых образуются ансамбли одновременно активируемых входной информацией нейронов, могут в некоторых случаях обладать ассоциациями по сходству и, в принципе, ассоциациями по смежности во времени. Эти аспекты работы растровых (ансамблевых) нейронных сетей перекликаются с некоторыми представлениями о работе мозга.

К понятию "формальная нейронная сеть" часто добавляется понятие "нейрокомпьютер". Этот термин не очень удачен. Системы, к которым он обычно применяется, компьютерами не являются.

Оценивая успехи так называемой нейронауки, можно, в отличие от распространенного мнения, сказать, что создание пассивных признаковых и растровых распознавателей, а также строящихся на их основе устройств или программ, называемых нейрокомпьютерами, не является заметным шагом в понимании и моделировании нейронных механизмов мозга.

Более подробно формальные пассивные нейронные сети, а также гипотезы об активных нейронных сетях рассмотрены в [17]. Обо всем этом мы еще будем говорить в дальнейшем.

Синергетика

Работам в области ИИ в последнее время часто противопоставляется синергетика. Развиваемый в этом новом направлении подход иногда называют "теорией всего" и говорят о возможности применения аппарата синергетики к описанию любых систем, в том числе живых, и даже мозга. Синергетика использует аппарат нелинейной динамики для описания изменений в мультистабильных системах, теряющих устойчивость при внешних воздействиях и переходящих в результате изменений в новое стабильное состояние. Переход в новое состояние определяется градиентом действующих сил, а также сочетанием внешних и внутренних случайных факторов. Такой процесс характерен для теряющих устойчивость пассивных неживых систем. В дальнейшем мы будем подробно говорить о том, что активные живые системы постоянно находятся в состоянии неравновесия. Теряя устойчивость и начиная движение к состоянию равновесия, они за счет внутренней и внешней работы возвращаются в состояние неравновесия. Переход от неравновесия к равновесию в каких-то фазах существования и развития живого также существует. Однако представляется, что главное как в поведении живых организмов, так и в работе мозга - это активное целенаправленное поддержание неравновесия. В дальнейшем мы будем говорить о том, что две главные решаемые мозгом задачи - построение иерархической активной модели среды и использование этой модели для целостного целенаправленного восприятия, а также для быстрого решения многопереборных многоэкстремальных задач поведения путем сведения этих задач к малопереборным одноэкстремальным. Все это в целом аппаратом нелинейной динамики не описывается. В связи с этим претензии синергетики на роль теории всего не выглядят обоснованными.

Таким образом, ни в направлении ИИ, ни в смежных областях значительных обобщающих результатов, ведущих к пониманию мышления, нет. Более того, становится все более ясно, что пассивные алгоритмические системы к пониманию и моделированию мышления прямо не приводят. Сумма решенных "интеллектуальных" задач мышления не образует.

Часто считается плохим тоном говорить о моделировании человеческого мышления, априори относя эти разговоры к спекуляциям. Не случайно в названиях некоторых популярных книг и статей о перспективах направления "Искуственный интеллект" появляются такие слова, как "голый король", "король умер", "новый ум короля".

Виталика

Все сказанное, естественно, приводит к следующему выводу. К пониманию мышления, по-видимому, нужно идти не от алгоритмического ИИ, т. е. не от решения трудных задач, связанных с необходимостью обработки сложной информации, а от понимания того, чем живое отличается от неживого. Можно надеяться на то, что эти отличия лежат не только в основе особой формы существования материи, но и в основе мышления. Можно полагать, что эти отличия материальны, моделируемы и находятся в области относительного незнания. Поиск, точное определение и моделирование этих отличий можно считать отдельным научным направлением. Это направление можно назвать, например, "виталика" (от латинского vitalis ). При этом не нужно смешивать это направление с идеалистическим витализмом, понимая цель виталики как стремление найти материальную и точно определяемую основу для таких сущностей, как "жизненная сила", "одушевленность", "энтелехия". Пытаться продвинуться в этом направлении мы будем, рассматривая поведение, восприятие и работу нейронных механизмов мышления. Возможно, что проявляющаяся в этих задачах важная суть отличий живого от неживого определяется принципом устойчивого неравновесия Э.С. Бауэра. Об этом мы еще будем говорить в следующих лекциях.

Предварительное определение мышления

Мозг возник и эволюционно развивался для обеспечения существования животных, т. е. для выживания. Возможно простое функциональное определение мышления, основывающееся на представлении о том, для чего нужно мышление (человеку или животному). Такое предварительное определение было введено в предыдущей лекции. Повторим его с небольшими добавлениями.

Мышление - это активный процесс в живом мозге,направленный на:

Обратите внимание на слова "активный процесс в живом мозге". Этими словами подчеркивается, что для понимания мышления важно понять не только то, что делает мозг, но и то, как он это делает. Принципиально также подчеркивание многоэкстремальности задач поведения.

Это очень общее предварительное определение в дальнейшем будет использоваться как исходная рамка, которая будет заполняться конкретным и уточняемым в значительной степени гипотетическим содержанием.

И как уже было сказано, мы постараемся двигаться к пониманию мышления от задач восприятия и управления поведением, так же как и от понимания принципов работы нейронных механизмов, рассматривая эти задачи с единых позиций отличий живого от неживого.