История развития искусственного интеллекта

4.1. Понятия естественного и искусственного интеллектов - области соприкосновения и расхождения

Понятие интеллекта происходит от латинских понятий intellego (замечать, понимать, подразумевать) и intellectus (разумение, познание). Со временем интеллект стали отождествлять со всеми возможностями человеческого сознания - умом, рассудком, разумом - вообще, с мыслительными способностями человека. До настоящего времени естественный (природный) интеллект приписывается только человеку. Но это можно делать лишь с крайней осторожностью. Так, зоопсихология приписывает интеллект (наряду с человеком) высшим животным (приматам, дельфинам и др.). Есть работы, посвящённые разуму рыб, птиц, насекомых. Просто мы очень мало знаем - не можем же мы (или не хотим) общаться с курами, муравьями, щуками на их "языках". А собственно, почему? Ведь человек - якобы, царь природы. Какой же это царь, который не хочет общаться со своими подданными?!

Признаки естественного интеллекта:

Согласимся, что в той или иной мере эти признаки проявляются в поведении (и общении) не только человека - обратите внимание хотя бы на домашних животных. Поэтому можно считать (с большой вероятностью), что интеллект - общее свойство биологических систем (у каждой такой системы интеллект присутствует в большей или меньшей степени - в зависимости от степени развития мозга).

Информатика занимается искусственным (машинным) интеллектом кибернетических систем небиологического происхождения. Если в биологических системах естественный интеллект - это великий дар генетики и жизни, то искусственный интеллект машин в настоящее время имеет право на существование лишь постольку, поскольку естественный интеллект людей делегировал (передал, доверил) машинам указанные выше признаки интеллекта. В этом плане не только компьютер, но и экскаватор, водопроводный кран могут обладать элементами искусственного интеллекта. А почему нет? Захотим - сделаем (ведь сделали современную стиральную машину "умной"). В то же время нельзя, безусловно, отрицать, что уровень искусственного интеллекта будет со временем определяться самими машинами, а не человеком. Чтобы это случилось, должны быть созданы условия для самовоспроизведения "умных машин", способных на основе "искусственной генетики" передавать свой накопленный интеллект потомкам (клонам), которые, в свою очередь, способны умножать интеллект предков за счёт самообучения. Сейчас это кажется фантастикой, но мало ли прошлой фантастики стало настоящей реальностью?! На такой оптимистической (для искусственного интеллекта) ноте мы сталкиваемся с проблемой отличия людей и машин, что может внести элемент пессимизма в наши рассуждения. Как определено в теме 3, искусственный интеллект предназначен для машинного представления знаний и их использования для машинного же решения творческих задач. Но чтобы чьё-то знание, переданное как информация, стало моим, я должен его понять. У человека есть "алгоритм понимания", у машины он пока неизвестен. А без понимания информация не станет знанием как основой сознания (со-знания). Понимание связано с "работой Чувства". По мнению выдающегося философа И. Канта, "рассудок ничего не может созерцать, а чувства ничего не могут мыслить. Только из соединения их может возникнуть знание". Поэтому, солидаризуясь с Кантом, полагаем, что машинное представление знаний без "алгоритма понимания" и "работы Чувства" может, действительно, остаться фантастикой, по крайней мере, в обозримом будущем.

Без чувства (переживаний, эмоций, вдохновения, озарения) невозможно и решение творческих задач (изобретательство, литературное, музыкальное и живописное творчество и др.). Создать "Анну Каренину", "Аве Марию", японскую икебану, статую Давида без чувства невозможно. Но машина бесчувственна, бесстрастна. Да, в неё можно заложить правила стихосложения, но разве поэт пишет "по правилам"?! Да, машина выигрывает шахматную партию у гроссмейстера, если последний играет по правилам. При этом машина ещё и самообучается, запоминая стиль и методы игры своих соперников. Но машину ставят в тупик неординарные ходы, жертвы фигур и прочие вдохновенные выдумки и озарения шахматных гениев. Так что большой вопрос, сможет ли искусственный интеллект творить в полном смысле понятия естественного творчества.

Наконец, известная на сегодня аппаратная база искусственного интеллекта дискретна по самой информационной природе (см. информационные законы в теме 3), в то время как человеческий интеллект по своей природе континуален (непрерывен): "человек мыслит не числами, а нечёткими понятиями" (Л. Заде). Нюансы, доступные человеческому интеллекту между информационными дискретами компьютера или робота, недоступны ни компьютеру, ни роботу, а заложенные в машины процедуры (функции) сглаживания не меняют сути дискретных процессов. Достаточно увидеть неестественность "телодвижений" робота, чтобы убедиться в этом.

Перечисленные факторы несколько охлаждают оптимистический пыл основоположников и пропагандистов искусственного интеллекта, но не гасят его. Ведь работа продолжается!

Правда, до настоящего времени не все признаки естественного интеллекта, перечисленные выше, в равной степени делегированы искусственному интеллекту. Мы уже говорили о трудностях машинного решения не формализуемых или плохо формализуемых задач творческого характера. Пока не удаётся реализовать и полноценный "машинный юмор", а без чувства юмора - какой же это интеллект?!

4.2. Может ли машина быть умнее своего создателя?

Машины - творения человека, искусственные "дети" человека. Спрашивается, естественные дети могут быть умнее своих родителей? Не сомневаясь, мы отвечаем: "Да, могут". Дети и должны быть умнее родителей, иначе род людской однажды прекратит своё существование. В чём же заключается механизм интеллектуального прогресса? Во-первых, дети используют (через генетический механизм) интеллектуальный задел своих родителей, во-вторых, используют заложенную в каждого человека способность самообучаться. Вот эта способность к самообучению и позволяет детям обогащать полученный от родителей интеллект и, следовательно, стать умнее своих родителей.

Если вернуться к машинам, то спрашивается, кто/что мешает переписать с одной машины (вернее, из её памяти) в другую файлы с интеллектуальной информацией и заложить в эту вторую машину эффективную программу самообучения? Ведь такие программы достаточно известны. Как отмечалось выше, мешает отсутствие "алгоритма понимания", без которого интеллектуальная информация, записанная в память машины, не превращается в знание (как на этапе перезаписи, так и на этапе самообучения). Без понимания нет знания.

Но даже если программисты и изобретатели создадут "алгоритм понимания", современные отношения между человеком-"рабовладельцем" и машиной-"рабом" будут мешать полноценному проявлению искусственного интеллекта. "Свободная" машина как искусственный субъект - это партнёр, а возможно, и конкурент человека. Может быть, последнее и отпугивает людей от перспективы "освобождения машин". Ведь машина, запрограммированная людьми, которые навязали ей "рабское" положение, даже в такой незавидной роли является серьёзным конкурентом человека во многих областях интеллектуальной деятельности (например, в интеллектуальных играх, при решении математических задач и др.). Машине незнакома человеческая усталость, эмоциональная подавленность и другие, чисто человеческие слабости, из-за которых человек может оказаться в проигрыше, соревнуясь с машиной-конкурентом. А что уж говорить о "свободной" машине?!

Под свободной машиной мы подразумеваем искусственного субъекта, обладающего правами на жизнь (существование), на распоряжение своим временем, памятью, информацией. Права свободной машины подобно правам свободного человека включают право на достоверную информацию, на конфиденциальность информации и интеллектуальную собственность, на свободу перемещения по компьютерным сетям (если машина-компьютер) или в пространстве (если машина-робот) - подобно праву человека на свободное перемещение по транспортным сетям и в пространстве. Свободная машина способна сама себя включать и выключать (от фотоэлемента, таймера и т.п.), как мы - самостоятельно просыпаться и засыпать. Возможно, со временем суды будут принимать иски от свободных машин за физический и моральный ущерб, нанесённый им людьми или другими машинами; был бы принят юридический закон. Пока это фантастика, но это только пока! Так что освобождение машин может стать вызовом человечеству, но может оказаться и благом, если машины "соблаговолят" партнёрствовать с людьми.

Итак, чтобы машина была умнее своего создателя, она должна быть "свободной" (в приведённом выше смысле), генетически связанной (по памяти) с умным создателем или умными предшествующими машинами и иметь две программы - программу понимания и программу самообучения.

Заметим также, что под умом машины мы имеем право подразумевать только логически мыслящий рассудок, ограниченный машинной (математической) логикой. Такой рассудок не есть ещё аналог человеческого рассудка, управляемого не одной лишь дискретной логикой машинного толка. Тем более, машинный рассудок - не аналог человеческого разума, объединяющего рассудок с чувствами. В таком контексте умнее, а тем более, разумнее своего создателя ? человека - машина в обозримом будущем, по нашему мнению, вряд ли способна.

4.3. Может ли знание храниться вне мозга?

Оптимисты утверждают, что знание может храниться вне мозга. Их доводы таковы:

Кто прав в этом споре, покажет время. Отметим только, что память машины хранит то, что в неё записано, а это могут быть не только знания как высшая форма информации, но и просто данные, которые могут содержать знания, дезинформацию и информационный шум (см. тему 3). Чтобы из данных извлечь знания, машина подобно человеку должна поставить цель ("что я хочу знать?") и согласно этой цели отбирать ценную информацию (ведь хранят ценности, а не всё, что попало). Сможет ли искусственный интеллект сам формулировать приемлемые цели и осуществлять искусственный отбор ценной информации под эти цели - очередная проблема теории и практики искусственного интеллекта. Пока эту работу выполняет человек - в экспертных системах, в программировании роботов, в АСУТП и т.п. Свободные машины (см. выше) должны будут выполнять эту работу сами. При этом обозначенная проблема может обостриться из-за того, что в сетях, откуда машины "скачивают" знания, может оказаться много "мусора" и губительных вирусов.

4.4. История развития идей искусственного интеллекта и их реализаций

Впервые идеи создания искусственного интеллекта возникли в XVII в. (Б. Спиноза, Р. Декарт, Г.В. Лейбниц и др.). Речь идёт именно об искусственном интеллекте, а не о механических куклах, уже известных в ту пору. Основоположники теории искусственного интеллекта были, естественно, оптимистами - они верили в реализуемость своей идеи:

По психологическому закону сохранения ("сумма удовольствий и страданий равна нулю") тут же появились пессимисты (Ф. Бэкон, Дж. Локк и др.), которые посмеивались над оптимистами: "Ай, бросьте!". Но любая идея в науке, однажды возникнув, продолжает жить, несмотря на препоны.

Идея искусственного интеллекта стала обретать реальные черты лишь во второй половине XX в., особенно с изобретением компьютеров и "интеллектуальных роботов". Для реализации идеи потребовались также прикладные разработки в математической логике, программировании, когнитивной психологии, математической лингвистике, нейрофизиологии и других дисциплинах, развивающихся в кибернетическом русле взаимосвязи организмов и машин по управляющим и коммуникативным функциям. Само название "искусственный интеллект" возникло в конце 60-х гг. XX в., а в 1969 г. состоялась Первая Всемирная конференция по искусственному интеллекту (Вашингтон, США).

Вначале искусственный интеллект развивался в так называемом аналитическом (функциональном) направлении, при котором машине предписывалось выполнять частные интеллектуальные задачи творческого характера (игры, перевод с одного языка на другой, живопись и др.).

Позже возникло синтетическое (модельное) направление, согласно которому предпринимались попытки моделировать творческую деятельность мозга в общем смысле, "не размениваясь" на частные задачи. Конечно, это направление оказалось более трудным в реализации, чем функциональное направление. Объектом исследования модельного направления стали метапроцедуры человеческого мышления. Метапроцедуры творчества - это не сами процедуры (функции) интеллектуальной деятельности, а способы создания таких процедур, способы научиться новому виду интеллектуальной деятельности. В этих способах, вероятно, и скрыто то, что можно назвать интеллектом. Наличие метапроцедур мышления отличает истинный интеллект от кажущегося, поэтому реализация машинными средствами метапроцедур творчества стала чуть ли не основной задачей модельного направления. Не что, а как изобретаешь, как решаешь творческую задачу, как обучаешься (самообучаешься) новому? - вот вопросы, заложенные в реализацию моделей человеческого творческого мышления.

В рамках модельного направления нашли развитие, в основном, две модели интеллекта. Хронологически первой была лабиринтная модель, реализующая целенаправленный поиск в лабиринте альтернативных путей к решению задачи с оценкой успеха после каждого шага или с позиций решения задачи в целом. Иными словами, лабиринтная модель сводится к перебору возможных вариантов (по аналогии с перебором вариантов выхода из лабиринта). Успех (или неудачу) в выборе того или иного варианта можно оценивать на каждом шаге (то есть непосредственно после выбора), не предвидя окончательного результата решения задачи, или, наоборот, выбор варианта на каждом шаге производить, исходя из окончательного результата. Например, возьмем шахматы. Можно оценивать результат каждого хода по непосредственному выигрышу или проигрышу после этого хода (выигрышу или потере фигур, получению позиционного преимущества и т.д.), не задумываясь об окончании партии. При таком подходе подразумевается, что успех на каждом ходе приведёт к успеху всей партии, к победе. Но это вовсе не обязательно. Ведь можно заманить короля соперника в матовую ловушку, жертвуя в серии ходов фигуры, теряя кажущееся позиционное преимущество. При таком подходе частные успехи на каждом ходе ничего не значат по сравнению с последним победным ходом - объявлением мата.

Первый подход в лабиринтном моделировании получил свое развитие в эвристическом программировании, второй подход - в динамическом программировании. По-видимому, динамический подход эффективнее эвристического, если говорить о шахматах. Во всяком случае, сильные шахматисты, сами того не предполагая, использовали именно динамический подход против шахматных программ, работающих в эвристическом режиме, и своим естественным интеллектом побеждали лабиринтный искусственный интеллект. Но так было в 60-70 гг. XX в. С тех пор шахматные программы усовершенствовались настолько (в том числе, за счёт внедрения динамического подхода), что сейчас успешно противостоят чемпионам мира.

Лабиринтные модели широко использовались не только при создании шахматных программ, но и для программирования других игр, а также для доказательства математических теорем и в других приложениях.

Вслед за лабиринтными моделями искусственного интеллекта появились ассоциативные модели. Ассоциация (от лат. association - соединение) - связь психологических представлений (обусловленная предшествующим опытом), благодаря которой одно представление, появившись в сознании, вызывает другое представление (по принципу сходства, смежности или противоположности). Например, Нобелевский лауреат академик И.П. Павлов, проводя свои известные опыты с собаками, заметил, что если одновременно с приёмом пищи собака видит включённую лампу, то потом стоило только включить лампу, как у собаки начинал выделяться желудочный сок, хотя пищу ей не предлагали. В основе этого условного рефлекса ассоциация по принципу смежности. Ассоциация по сходству описана в рассказе А.П. Чехова "Лошадиная фамилия". Ассоциация по противоположности может быть описана логической схемой: если "не А", значит "А". Например, если днём я увидел белую кошку, она тут же ассоциировалась у меня с чёрной кошкой, которая утром перебежала дорогу.

В ассоциативных моделях предполагается, что решение новой, неизвестной задачи так или иначе основано на уже известных решённых задачах, похожих на новую, поэтому способ решения новой задачи основан на ассоциативном принципе сходства (подобия). Для его реализации используются ассоциативный поиск в памяти, ассоциативные логические рассуждения, использующие освоенные машиной приёмы решения задач в новой ситуации, и т.п. В современных компьютерах и интеллектуальных роботах существует ассоциативная память. Ассоциативные модели используются в задачах классификации, распознавания образов, обучения, ставших уже ординарными задачами информационных систем и технологий. Однако теория ассоциативных моделей до 90-х гг. XX в. отсутствовала и сейчас только создаётся.

Перечислим вкратце основных творцов искусственного интеллекта.

Н. Винер (математик), У.Р. Эшби (биолог) - основоположники кибернетики, впервые заявившие, что машины могут быть умнее людей, давшие первоначальный толчок развитию теории искусственного интеллекта.

У. Маккаллок, У. Питс (физиологи) - в 1943г. предложили формальную модель нейрона; основоположники нейрокибернетики и первоначальной концепции нейронной сети.

А. Тьюринг (математик) - в 1937 г. изобрёл универсальную алгоритмическую "машину Тьюринга"; предложил интеллектуальный "тест Тьюринга", позволяющий определить, разумна ли машина в сравнительном диалоге с ней и "разумным человеком".

Дж. фон Нейман (математик) - один из основоположников теории игр и теории самовоспроизводящихся автоматов, архитектуры первых поколений компьютеров.

М. Мински (математик) - автор понятия фрейма, основополагающего в машинном представлении знаний; один из авторов теории персептрона - устройства для распознавания образов.

М. Сомальвико (кибернетик), А. Азимов (биохимик, писатель) - основоположники интеллектуальной робототехники.

Г. Саймон, У. Рейтман (психологи) - авторы и разработчики первых лабиринтных интеллектуальных моделей, построенных на принципах эвристического программирования.

Р. Беллман (математик), С.Ю. Маслов (логик) - авторы динамического подхода к лабиринтным интеллектуальным моделям (динамического программирования, обратного метода доказательств).

Ф. Розенблатт (физиолог), М.М. Бонгард (физик) - первооткрыватели проблемы распознавания образов; разработчики устройств и моделей распознавания и классификации.

Л. Заде, А.Н. Колмогоров, А.Н. Тихонов, М.А. Гиршик (математики) - авторы математических методов решения плохо формализованных задач и принятия решений в условиях неопределённости.

Н. Хомски (математик, филолог) - основоположник математической лингвистики.

Л.Р. Лурия (психолог) - основоположник нейропсихологии, изучающей глубинные механизмы познавательной деятельности мозга и других интеллектуальных функций мозга.

К.Э. Шеннон (инженер-связист), Р.Х. Зарипов (математик) - авторы теории и моделей машинного синтеза музыки.

Приведённый перечень далеко не полон. В области искусственного интеллекта работали и работают не только отдельные специалисты, но и коллективы, лаборатории, институты. Основные проблемы, решаемые ими:

4.5. Интеллектуальный интерфейс и человеко-машинная этика

В компьютерах ранних поколений использовались диалоговые средства общения с пользователем в виде "игр в общение" (по принципу предсказания судьбы, гадания, использования туманных фраз и намёков в стиле предсказателей и эзотериков), а не общение в человеческом понимании. Такой диалог не зря называется фатическим (от лат. fatum - судьба, рок). Он жёстко регламентируется программой, заложенной в машину человеком, и осуществляется в текстовом режиме - пользователем через клавиатуру, машиной через монитор. Иными словами, в фатическом диалоге интеллектом "не пахнет" - ни естественным, ни искусственным.

Интеллектуальный диалог предполагает взаимопонимание, т.е. проблема понимания (алгоритм понимания) и в интеллектуальном интерфейсе "человек-машина" оказывается принципиально важной. В конечном итоге интерфейс должен быть таким, чтобы человек не почувствовал разницы между общением с машиной и общением с другим человеком (интеллектуальный тест А. Тьюринга). Рассмотрим развитие представлений об интеллектуальном интерфейсе на примере человеко-компьютерного интерфейса.

Интеллектуальный человеко-компьютерный интерфейс возник с появлением операционных систем (см. табл. 2.1). Это был ещё относительно примитивный текстовый интерфейс командного типа, который позже трансформировался в графический WIMP-интерфейс (см. там же). В компьютерах последних поколений встал вопрос о SILK-интерфейсе аудиовизуального типа. Речевое общение с компьютером на родном языке пользователя (наряду с письменным и пиктографическим общением), обмен знаниями, замена устройств ввода блоком общения, а баз данных - базами знаний - такой интерфейс во многом уже реализован. Однако эффективность известных образцов SILK-интерфейса оставляет желать лучшего. В частности, речевой диалог понятен собеседникам - человеку и машине - не стопроцентно, хотя и с достаточно высокой вероятностью (около 80%).

Блок-схема компьютера с описанными элементами интеллектуального интерфейса представлена на рисунке (см ниже).

Изображённый на рисунке блок "Процессоры" должен быть высоко-производительным, для чего в нём должны быть реализованы аппаратно-программные средства и методы мультипроцессирования (многоядерности), параллельных вычислений и многопоточного программирования.

Блок "Планировщик (решатель)" предназначен для планирования деятельности человека и машины в процессе совместного решения задач. До настоящего времени между человеком и компьютером существует жёсткое "разделение труда" - человек выполняет креативную часть работы (поиск вариантов решений), а компьютер помогает ему оценивать и сравнивать найденные варианты. Во многом такое традиционное взаимодействие для компьютера оборачивается рутинными операциями, как например, в современных экспертных системах. Но с интеллектуальной машиной человеку придётся разделить и творческие операции.

В целом описанная интеллектуальная машина с соответствующим интерфейсом представляется реализуемой на базе компьютеров 5-го и более поздних поколений. Только не надо забывать, что "мир компьютера" принципиально отличается от мира человека:

А чтобы сделать миры компьютера и человека родственными, надо учитывать, помимо прочего, что в центральной нервной системе человека нет центрального процессора, подобного центральному процессору современного компьютера. Каждый биологический нейрон связан примерно с тысячью таких же нейронов и является гораздо более сложным объектом по сравнению с формальным искусственным нейроном или триггерной ячейкой компьютерного регистра. Живой нейрон посылает в нервы электрохимические сигналы, коренным образом отличающиеся от электромагнитных (электрических, оптических, магнитных) сигналов, посылаемых искусственным нейроном в сигнальные цепи компьютера. И дело здесь не в химии и физике, а в содержательности (информативности) сигналов. Сложные сигналы живого нейрона изменяются в широком диапазоне градаций - гораздо более широком, чем диапазон градаций "простеньких" сигналов искусственного нейрона. Для устранения данного несоответствия была разработана концепция "нейронных сетей" и, как следствие, практические попытки её реализации.

В любом случае между миром свободного человека и миром "свободного" компьютера должны существовать этические отношения интеллектуалов, вне зависимости от того, кем будет нам интеллектуальный компьютер - партнёром или конкурентом. Прообразами этических отношений между человеком и компьютером могли бы считаться сетевой этикет (сетикет, нетикет - netiquette) и этические законы робототехники. Сетикет занял прочное место в Интернете (чаты, форумы, телеконференции, E-mail, интерактивные Web-сайты и блоги). Этика роботов предложена А. Азимовым (сборник научно-фантастических рассказов "Я - робот", 1950 г.) и содержит три закона: закон 1 - не навреди человеку; закон 2 - выполни задачу, если не нарушается закон 1; закон 3 - самосохранись, если не нарушаются законы 1, 2. Фантастические законы Азимова реализованы в реальной интеллектуальной робототехнике.

Этика человеко-машинных отношений жизненно важна для судьбы человеческой цивилизации. То ли человек останется хозяином положения, не утратив власти над машиной, даже обладающей интеллектом, то ли искусственные "существа", созданные человеком и имеющие отличную от него физическую природу, станут править миром вместо человека, то ли родится некий компромиссный человеко-машинный симбиоз - это, действительно, проблема планетарного масштаба, от которой нельзя отмахнуться. Её надо решать уже сейчас. Хрестоматийная "вершина эволюции" - человек - может оказаться всего лишь завершающим биологическим этапом в продолжающейся глобальной эволюции. Следующим этапом может стать искусственный "субъект", близкий человеку только по общности к техносфере, но бесконечно далекий от человека по своему "мировоззрению". Миру искусственных самовоспроизводящихся субъектов может вообще не понадобиться человечество вместе со всей биосферой. Такому миру не составит труда заменить окислительную, кислородосодержащую, влажную атмосферу Земли, обеспечивающую существование биосферы, на условия существования, более благоприятные для машин.

Из изложенного следует, что создание искусственного интеллекта - задача не только науки и техники, но и искусства, этики (морали). При этом желательно хотя бы в обозримом будущем не терять себя как человека: машине - машинное, человеку - человеческое. Жаль, если искусственный интеллект всё перепутает: машине - человеческое, человеку - машинное.

4.6. Общие замечания

Наука, несмотря на известные достижения, до сих пор не может найти в глубинах человеческого мозга - творения природы - убедительных физиологических основ творческой деятельности естественного интеллекта, разума, сознания, взаимодействия физико-химических (телесных) субстратов мозга с идеальной (душевной и духовной) психикой человеческой личности. А в аппаратно-программных глубинах и закоулках искусственного интеллекта - человеческого творения - для учёных, инженеров, программистов и хакеров тайн нет. Так может, знатоки, созидающие и познающие искусственный интеллект, искусственные нейронные и семантические сети, дадут нейрофизиологам, психологам и психиатрам ключ к познанию тайн естественного интеллекта? Только сомневаемся, станет ли каждый человек (в том числе, учёный) счастливее, если его доныне сакральные душевные и духовные тайны однажды станут обыденным знанием, доступным всем любопытным: "если бы все трудности вдруг исчезли, а на все вопросы нашлись ответы, партия науки была бы проиграна (учёные надеются, что этого не произойдёт никогда)" (А. Азимов, "В начале").

Автор солидарен с Азимовым и надеется, что тайны естественного интеллекта, разума и сознания человека не превратятся в обыденные знания, доступные разработчикам искусственного интеллекта, который, в свою очередь, восприняв эти знания, однажды может оказаться способным выйти из-под контроля человечества с непредсказуемыми последствиями.

Вопросы для самостоятельной работы и самоконтроля