Вопросы безопасности и этики применения ИИ

Отсутствие прозрачности ИИ - это проблема, которая уже упоминалась ранее и будет более подробно рассмотрена в данном разделе. Некоторые системы ИИ являются "черным ящиком" и не поддаются объяснению. Трудно оценить систему, когда нет возможности понять, как она делает свои выводы.

Предвзятость (bias) - термин, который можно интерпретировать как необъективность или пристрастность ИИ. Эта необъективность может формироваться на разных стадиях жизненного цикла создания модели. Во-первых, сами разработчики не могут быть свободны от присущей им той или иной пристрастности (принадлежности той или иной социальной группе, политическим предпочтениям и т. п.), они переносят часть своей личности в ИИ-продукты, порождая предвзятости решения. Вот почему считается, что страны, в которых разработчики представлены разными социальными и гендерными слоями, в меньшей степени рискуют создавать ИИ-приложения, страдающие предвзятостями.

Предвзятости также могут формироваться на стадии постановки задачи, когда формализация задачи может зависеть от личных представлений разработчика. А также на стадии сбора данных для обучения. Например, в 2019 году полицейское управление Лос-Анджелеса приостановило свою программу прогнозирования преступности LASER, которая использовала данные видеоаналитики, после того как внутренний аудит показал предвзятость системы к чернокожим и латиноамериканцам.

Системы ИИ могут усиливать риски, связанные с предвзятыми результатами, приводя к нарушению конфиденциальности, этических норм, что в свою очередь приводит к судебным и репутационным издержкам.

Риски, связанные с нарушением нормативных требований

По мере внедрения ИИ в организациях необходимо учитывать их влияние на существующие внутренние политики. Регулирующие органы проявляют растущий интерес к внедрению ИИ. Несоблюдение нормативных актов может повлиять на использование и управление системами ИИ.

В рамках данного курса мы подробнее остановимся на рисках, связанных с ограничениями интерпретируемости ИИ-систем, и рис

Ограниченная интерпретируемость ИИ как фактор риска

Как было отмечено, не все системы ИИ являются объяснимыми, часть из них работают как "черный ящик", делая вывод с определенной вероятностью и не имея возможности объяснить логику принятия решения. Понятно, что чем меньше доверие к ИИ, тем уже сферы его применения. Из-за отсутствия понимания механизма получения вывода люди, использующие системы "черного ящика", допускают ошибки в некоторых "безопасных" пределах и избегают использовать подобные решения в ответственных приложениях.

Чтобы создать ИИ-приложение, которое можно использовать на практике, необходимо обеспечить соответствие требованиям безопасности, нормам этики, люди должны понимать обстоятельства, которые привели к результатам, и исправлять их, если они ошибочны.

Наше общество уже сталкивается с ситуациями, когда проявляются ошибки, связанные с работой систем на базе ИИ. Когда, например, ошибка в распознавании лица приводит к задержанию невиновного человека, когда люди в критических ситуациях теряют доступ к денежным пособиям, когда алгоритмы неправильно интерпретируют медицинские снимки, неправильно ставят диагнозы. Проблема не в том, что ИИ-системы ошибаются, а в том, что если логика принятия решений остается неочевидна человеку, то такие ошибки остаются неподконтрольными и в этой связи часто неисправимыми.

На рис. 4.3 показано несколько рассмотренных нами ранее алгоритмов, на базе которых строятся системы ИИ. Как видно из рисунка, глубокое обучение, которое может обеспечить высокую точность, уступает более простым алгоритмам по параметру объяснимости.

Объяснимость ИИ становится все более критичной по мере роста ответственности за принятие решения на базе ИИ (рис. 4.4).

Сортировка пациентов для принятия экстренных медицинских процедур, постановка диагноза, определение нарушителей в мошеннических схемах - это те случаи, где важность принятия решения высока, где ошибка может привести к большим издержкам и где степень востребованности объяснимого ИИ, соответственно, велика. Задача состоит в построении решения, обладающего высокой точностью и интерпретируемостью (рис. 4.4). Как может быть реализовано подобное решение?

На рис. 4.5 показана принципиальная схема сравнения неинтерпретируемого (верхняя часть) и интерпретируемого решения (нижняя часть). В верхней части рис. 4.5 на вход в "черный ящик" подается фотография кошки, и на выходе мы получаем вывод - маркированное изображение. Модель, например, сообщает, что с вероятностью 95% это кошка, но при этом мы не знаем, как и почему система сделала такой вывод.

Объяснимые системы ИИ не просто выдают результат, а предполагают интерактивность с пользователем, предоставляя интерфейс, в рамках которого обеспечивается дополнительная информация, которая помогает человеку понять, как и почему ИИ принял такое решение, что позволяет проанализировать работу системы, если она работает неправильно.

Современные системы ИИ, которые в значительной степени полагаются на обработку данных для определения необходимых правил, принимаемых на основе входных данных, уязвимы для манипуляций с данными. Эти манипуляции и вредоносные действия могут обмануть ИИ-системы.

Выше мы упомянули пример с классификаторами изображений, которые анализируют комбинации пикселей, чтобы определить, какая метка относится к изображению. Манипуляции хакера с пикселами, результат которых будет незаметен для человеческого глаза, могут ввести алгоритм в заблуждение и привести к неправильной маркировке изображения. Учитывая уязвимый характер ИИ-систем, возникает необходимость проверки выводов ИИ-алгоритма, прежде чем принимать на основе рекомендаций машины ответственные действия.

Нижний вариант (рис. 4.5), предполагающий диалог, позволяет человеку контролировать результат, выявляя определенные признаки изображения, например мы приняли вывод о том, что это кошка, потому что на фото помимо неинтерпретируемых признаков, которые учитывала машина, есть также интерпретируемые (наличие в кадре элементов, распознанных как шерсть, уши, усы).

Объяснимый ИИ позволяет пользователю понять, почему именно модель пришла к тому или иному выводу.

Одно из решений, в котором был реализован интерпретируемый ИИ, разработано компанией Fujitsu. Оно состоит из двух систем и носит название "Deep Tensor & Knowledge Graph". Deep Tensor (см. рис. 4.3) - это оригинальная технология машинного обучения от компании Fujitsu, которая расширяет возможности глубокого обучения, позволяя обучаться на данных с графовой структурой, а Knowledge Graph - это графовая база знаний, созданная путем добавления семантики к информации, собранной из научных публикаций. По данным компании, это решение позволяет обеспечить работу модели с высокой точностью и интерпретируемостью выводов (рис. 4.3).

Объединение результатов Deep Tensor со знаниями Knowledge Graph дает основания для интерпретации выводов и позволяет экспертам-людям подтвердить истинность результатов, полученных ИИ, и в этом случае можно сказать, что это решение, принятое вместе с ИИ, а не решение, принятое ИИ вместо человека. Та же идея интеграции методов глубокого обучения (сверточной сети) и графовой базы знаний иллюстрируется на рис. 4.6.

Риски, связанные с нарушением этических норм

ИИ - это основа для создания многочисленных удобных сервисов, направленных на благополучие человека и одновременно источник рисков, связанных с появлением решений, которые могут нанести человеку вред, нарушить его права, проявить неэтичное поведение.

В этой связи появилась новая область исследования - этика ИИ - совокупность принципов и методов их реализации для создания и ответственного использования технологии искусственного интеллекта для предотвращения рисков, связанных с нарушениями в области морали и нравственности.

Одним из первых, кто предвидел потенциальные проблемы, в том числе риски этического плана, при разработке автономных интеллектуальных агентов, был писатель-фантаст Айзек Азимов, который сформулировал "Три закона робототехники" как средство ограничения этих рисков. Первый закон запрещает роботам вредить людям или допускать причинение вреда людям, отказываясь действовать. Второй закон предписывает роботам подчиняться людям, если только эти приказы не противоречат первому закону. Третий закон предписывает роботам защищать себя в той мере, в какой это не противоречит первым двум законам. Позже к первым трем был добавлен четвертый: робот не может принести вред человечеству.

Приведем некоторые примеры появления этических проблем в области разработки и применения ИИ, которые возникают уже сегодня. В первую очередь это проблемы, связанные с вторжением в частную жизнь, с непрозрачностью принятия решений, с ошибочностью принятия решений.

Например, доступный нам сегодня Интернет, дополненный технологиями ИИ, становится сложно контролируемым пространством, средством культивации и тиражирования фейков, благодатной средой для преступных действий, рассадником вредоносного ПО, средством проведения кибератак, полем осуществления информационных войн.

Рассмотрим лишь один аспект проблемы - проанализируем, как использование алгоритмов искусственного интеллекта, направленных на оптимизацию прибыли, может приводить к нарушению этических норм.

На рис. 4.7 условно показано интернет-пространство, в рамках которого функционируют различные платформы, которые взаимодействуют с пользователями и рекомендуют им, какие товары и услуги следует приобретать, с кем встречаться и дружить, как относиться к тем или иным новостям и т. п.

Многие из этих систем работают на основе алгоритмов, использующих ИИ, и могут манипулировать пользователями в угоду интересам владельцев платформ. Данные интересы явно и неявно заложены в оптимизационных механизмах ИИ-систем, обучающихся на поведении пользователей. Например, умная система, направленная на оптимизацию времени проводимого пользователем в интернете (с целью оптимизации прибыли от рекламы), может отбирать и показывать ему тот новостной контент, который вместо освещения объективной картины заставляет клиента максимально вовлекаться в процесс потребления контента и проводить больше времени в Сети.

Многие лидеры индустрии верили в рациональность человеческой природы или считали, что конкурентный рынок идей защитит истину. Подобное наивное полагание открыло Интернет для людей с более реалистичным пониманием силы группового мышления и обмана. Современные бизнесмены с помощью рекламы и пропаганды могут умело подстраивать свои аргументы и образы под вкусы, доходы и политические взгляды каждого пользователя, используя ИИ как средство оптимизации прибыли на основе изучения привычек потребления контента товаров и услуг целевых групп.

Авторы рис. 4.7 демонстрируют, что в управлении социальными и политическими процессами также присутствуют интересы провайдеров разных платформ. Неслучайно появилось выражение "Если вы что-то читаете бесплатно, то скорее всего, кто-то заплатил за то, чтобы вы это прочитали".

Рост вариантов интернет-мошенничества стимулирует людей разбираться в тонкостях новых сетевых сервисов и возможных механизмах новых манипуляций, в том числе чтобы избежать обмана. С другой стороны, чем больше люди проводят времени в Сети, тем больше у них шансов подвергнуться манипуляции со стороны недружественных алгоритмов.

Для пользователей социальных сетей важными являются мнения окружающих людей, но отнюдь не всегда человек осознает, в какой мере ИИ участвует в формировании его сетевого окружения, информационной повестки, в решении социально-политических задач, направленных на достижение отдельных интересов противоборствующих групп как на уровне отдельных государств, так и в мировом масштабе. При этом задачи упомянутых платформ всегда связаны с интересами владельцев и спонсоров этих платформ и могут быть направлены на обеспечение политической стабильности того или иного государства или, напротив, подрывать эту стабильность. Можно сказать, что умные алгоритмы участвуют в решении социальных и политических задач, являясь инструментами с известной степенью автономности и способностью обучения на основе паттернов потребления контента пользователем.

Представленные выше рассуждения можно обобщить, показав механизм влияния умных алгоритмов на формирование модели внешнего мира, в котором живет человек. Наш мир, который мы видим и ощущаем и привыкли воспринимать как действительность, есть модель, построенная нашим мозгом на основе элементарных импульсов, поступающих от органов чувств (датчиков на разных участках нашего тела). Причем заметим, что набор параметров, которые мы собираем из внешнего окружения, весьма ограничен - хотя бы потому, что мы видим и слышим в ограниченных участках электромагнитного спектра. То есть мы (наш мозг) получаем из внешнего мира некую совокупность электрических импульсов, а все, что мы привыкли называть воспринимаемыммиром,естьмодель,продуцируемаянашиммозгом. Весьма удачное и наглядное описание данного феномена можно найти у одного из признанных авторитетов в области нейробиологии и ИИ - Джеффа Хокинса в книге "AThousand Brains: A New Theory of Intelligence". "Нервные волокна, которые идут в мозг от глаз, ушей и кожи, выглядят одинаково. Они не только выглядят одинаково, но и передают информацию с помощью одинаково выглядящих спайков. Если вы посмотрите на входы в мозг, вы не сможете различить, что они представляют. Тем не менее зрение ощущается как одно, а слух - как нечто другое, и ни то, ни другое не похоже на спайки. Когда вы смотрите на пасторальную сцену, вы не чувствуете последовательности электрических импульсов, поступающих в ваш мозг; вы видите холмы, цвет и тени".

Наш мозг строит модель мира, которая уточняется на основе повседневного опыта нашего с ним взаимодействия.

На определенном этапе развития науки и техники появились приборы, такие как телескоп или микроскоп, которые позволили человеку воспринимать дополнительную информацию о мире. Создавая данные приборы, человек стремится минимизировать искажения при обработке данных. С появлением компьютерных технологий и электронной передачи данных количество акторов, которые участвуют в обработке сигнала прежде, чем он поступит в наш мозг, многократно возросло, и степень контроля искажений снизилась. Можно сказать (и этот процесс наглядно иллюстрирует рис. 4.8), компьютерные технологии добавляют все больше стадий в обработке данных, на основе которых человек создает модель мира, в рамках которой он живет и развивается.

Часть данных мы получаем непосредственно от общения с внешним миром и другими людьми, другую часть собираем при помощи различного рода устройств. Все большее количество данных мы получаем после их обработки той или иной компьютерной программой. Компьютер создает некоторую модель мира и доставляет нам данные об этом мире на базе полученной модели. При этом ИИ все в большей степени принимает участие в формировании моделей, данные из которых получает человек. Сигнал, на основе которого наш мозг строит модель мира, обрабатывается алгоритмами и потом поступает к нам. Формируется замкнутая система. Человек создает алгоритмы, на базе этих алгоритмов компьютерные программы анализируют наши потребности и пытаются сформировать совокупность сигналов, которые вызовут оптимальный отклик от клиента. Люди работают в команде с машинным интеллектом, передавая ему все большую свободу действий по мере того, как уменьшается степень жесткости в программировании работы ИИ человеком Тезис выглядит несколько категоричным. Свободу действий ИИ пока никто не передает, но в системах поддержки принятия решений используют. - Примечание научного редактора . Действительно, первые интеллектуальные программы были четко запрограммированы на выполнение последовательности действий, со временем машины научились обучаться и принимать решения, оптимизируя свои действия исходя из поставленной задачи. При этом по мере роста возможностей цифровых машин и совершенствования ИИ цели перед ИИ могут ставиться во все более обобщенной форме - как например, обеспечение оптимального (с экономической точки зрения) функционирования сложной системы. Все чаще подобное управление необходимо осуществить в столь короткие промежутки времени при анализе столь большого количества параметров, что принятие решения находится за гранью физических возможностей человека. Можно сказать, что алгоритмы изучают поведение людей и создают модели их поведения, пытаясь предсказать поведение этих людей в будущем, с тем чтобы поставлять им ту часть информации об окружающем мире, которую легче монетизировать. При этом нельзя утверждать, что модель, построенная компьютером, лишена предвзятостей, привнесенных как качеством данных, так и несовершенством самой модели. Следует также иметь в виду несовершенство самого человека, который создает модели на базе ИИ как для достижения открыто декларируемых благородных целей, так и секретных (открыто не декларируемых целей), отнюдь не всегда соотносящихся с нормами морали и права.

Тот факт, что все большую часть информации мы получаем посредством компьютерных технологий, говорит о том, что модель, которая формируется у нас в голове, все в большей степени может зависеть от преднамеренных и непреднамеренных искажений, вносимых ИИ при ее формировании. И то, что наш мир становится все более виртуальным, оставляет нам меньше шансов замечать разницу между данными, воспринимаемыми непосредственно (из реального мира), и данными, поступающими через призму их обработки, с участием ИИ.

Пользователи могут стать жертвами предвзятости алгоритмов ИИ по разным причинам - это может быть недостаточное качество данных или реализации ИИ-модели, а также наличие манипулятивных целей (открытых и скрытых), заложенных в алгоритмы (см. рис. 4.9).

Негативные последствия могут быть разного рода. Например, благородные цели, связанные с созданием беспилотного транспорта, могут обернуться массовой потерей работы для водителей такси. Система видеонаблюдения решает проблему снижения правонарушений, но непреднамеренно приводит к ущемлению прав и свобод граждан. Разработчиками могут быть допущены недочеты без злого умысла (возможно, по халатности или недобросовестности) - например, сделаны ошибки в модели или собраны недостоверные данные, и это может привести к предвзятости алгоритма или другим негативным последствиям. Наконец, разработчики могут использовать ИИ, зная, что это использование неэтично или даже нарушает закон.

Само общество пока не пришло к консенсусу по поводу этичности использования той или иной формы ИИ-систем. Этично ли использовать ИИ для целей информационной войны, промышленного шпионажа? Этично ли использовать автономные боевые БПЛА, и можно ли оправдывать такие действия рассуждением о том, что в противном случае на передовую пришлось бы посылать живых солдат?

Все более актуальной становится проблема потери приватности нашей личной жизни, которая контролируется как в физической реальности с помощью видеонаблюдения (где мы находимся, что делаем, куда направляемся, с кем встречаемся, какой у нас распорядок дня), так и в цифровой реальности (какую информацию, какие услуги мы предпочитаем, что и кто нам интересен, наши планы, контакты, коммуникации).

Умные гаджеты предоставляют информацию армии алгоритмов, следящих за жизнью своих пользователей как в цифровой, так и в физической реальности.

Если областью приватности частично оставалась область наших мыслей и чувств, то, согласно публикации [243], этих остатков приватности люди скоро лишатся в мирах Метавселенной, присутствие в которой будет обеспечиваться новыми видами гарнитур. Так, в 2022 г. появилась гарнитура смешанной реальности для присутствия в мирах Метаверс (metaverse), разработанная Reality Labs (подразделением Meta Platforms) под названием Meta Quest Pro.

Meta Quest Pro имеет 10 камер слежения, половина из которых следят за внутренним миром агента, анализируя его мысли и чувства с помощью мониторинга движения глаз, мимики и языка тела. Отслеживая направление взгляда пользователя, можно улучшать качество изображения смешанной реальности лишь в тех местах пространства, куда смотрит человек. При этом данные, полученные о состоянии внутреннего мира пользователя на происходящее, по сути, позволяют "снимать персональные данные с лица пользователя" и, вероятно, коммерциализировать их. Новый пул больших данных слишком полезен как для обычных граждан, так и для компаний и правительств - чтобы его игнорировать [244].

Доступ к персональной информации, анализируемой с помощью ИИ при обязательном сотрудничестве частных компаний с властью, приводит к ситуации, когда последние получают возможности отслеживать и все больше ограничивать передвижения, общение и покупки огромного количества людей, которые были идентифицированы как действительные или возможные диссиденты.

Появление крупномасштабных языковых моделей типа GPT-3 позволяет создавать алгоритмические копии любой социальной группы, что дает новые возможности для отработки методов манипулирования людьми (в целях бизнеса или власти), а также для пропаганды, дезинформации и мошенничества, поскольку теперь эти методы можно отрабатывать на алгоритмических копиях интересующих исследователей социальных групп [245].

Наличие этических проблем в области применения ИИ отражается в новых терминах. Так, например, термин "data colonialism", который можно перевести как "колонизация присвоением данных", используется для выражения эксплуатации людей с помощью технологий ИИ. Здесь присвоение данных рассматривается по аналогии с колониализмом, связанным с присвоением территорий и ресурсов для получения прибыли.

Еще один новый термин Nudging (подталкивание) определяется как тонкий способ манипуляции (усиливаемый возможностями ИИ), который позволяет обходить человеческую способность к автономному принятию решений и суждений и используется для эксплуатации человека и получения прибыли [246].

Появился еще один новый термин - "AI Awakening" (пробуждение ИИ), который обозначает момент преодоления машиной на базе ИИ порога человеческих способностей в выполнении определенных задач Есть также другой термин с указанным смыслом - super human performance. - Примечание научного редактора . Речь не идет о создании сильного интеллекта, а только о появлении способностей ИИ, позволяющих обойти человека в решении конкретной интеллектуальной задачи [247].

Например, играть в шахматы или Го лучше человека или идентиицировать изображения и выполнять другие задачи, связанные со зрением, и заменить человека. Например, заменить радиологов при интерпретация медицинских изображений.

Речь идет не столько об увольнении сотрудников, обладающих определенными навыками, сколько о коррекции занятости человека за счет передачи некоторых функций этих сотрудников машине. Например, автоматизированный магазин больше не требует продавцов, но требует специалистов по снабжению, управлению и оформлению витрин. Люди должны подстраиваться под те ниши, которые оставляет им ИИ.

Этическая сторона вопроса может быть определена фразой "Обесценивает ли машина навыки человека и лишает ли она его работы?". Оптимисты прогнозируют ситуацию, при которой машины будут дополнять навыки человека, высвобождая ему пространство для его творческой реализации в вопросах управления, обучения, создания новых интеллектуальных решений, и полагают, что решение проблемы состоит в дополнительном образовании и постоянном обучении.

Пессимисты выражают сомнения по поводу того, что перейти на эту функцию более творческой реализации и постоянного обучения смогут далеко не все сотрудники, у которых сегодняшний основной навык станет невостребованным.

ИИ внедряется во все большее количество сервисов. Показателен анализ этических вопросов, решение которых ответственно за ускорение/торможение процесса внедрения ИИ в медицине. Существуют примеры недоверия живому врачу, в силу того что он (как любой человек) может обладать разными качествами, и в том числе такими как зависть, злорадство, сарказм, нечестность, жажда наживы и т. п. Все эти качества пока не присущи машине. В этом смысле переход на общение с машиной может иметь свои плюсы.

И есть совокупность качеств, присущих человеку, которые пока недоступны машине Тут следует разделять две вещи. 1. Способность распознавать указанные свойства и генерировать их проявления в диалоге с человеком (это есть и развивается). 2. Наличие указанных свойств непосредственно у машины как инструмента управления поведением и принятием решений (этого нет и не нужно). - Примечание научного редактора (эмоциональность, сострадание, любовь, эмпатия и т. п.), что затрудняет общение с машиной. Мы находимся на той стадии развития техники, когда нас раздражает не общение с машиной, а общение с глупой машиной, и на вопрос машины "Чем я могу вам помочь?" мы отвечаем: "Соедините с человеком-специалистом".

Но техника становится все более умной, и отторжение в отношении ИИ-консультанта ослабевает, если он становится действительно полезен.

Отношение пациентов к медицинским услугам на базе ИИ уже сегодня неоднозначно (рис. 4.10). Уже сегодня есть некоторые вопросы, например обсуждение сексуального здоровья/поведения человека, которые вызывают у пациента дискомфорт, в силу опасения осуждения со стороны врача-человека, и подчас пациенту проще обсуждать подобные темы с "бездушной ИИ-машиной". При этом одновременно пациенты отмечают и другую сторону - что врач обладает сочувствием, участием (неотъемлемое качество врача), без которого немыслимо само лечение Спорный тезис. Хирургам, например, сочувствие только мешает, поэтому они не оперируют своих родственников сами. - Примечание научного редактора .

Многие технологии имеют две стороны (плюсы и минусы), они обещают привнести еще больше пользы в будущем при развитии технологии и одновременно могут усугублять некоторые свои негативные стороны.

Если посмотреть на вектор, направленный на переход от состояния 4 в состояние 3, то это вектор, связанный с ожиданиями преодоления минусов дня сегодняшнего за счет новых возможностей в технологии дня завтрашнего. Если смотреть на вектор 1-3, то можно видеть, как доверие к технологии дня сегодняшнего может смениться на недоверие по мере ее развития.

Опасения связаны в основном с нарушением приватности, возможности использования технологических достижений во вред пользователям со стороны тех, кто станет владельцем этих технологий.

Конечно, разные приложения в разной степени вызывают моральноэтические вопросы в силу этичности самого сервиса, основанного на новых, ранее недоступных возможностях за счет применения ИИ (рис. 4.11).

Если почти 90% респондентов готовы доверить ИИ советы по эвакуации на случай аварии, зная, что ИИ-системы слежения и оповещения превосходят человека по своим возможностям, то в вопросах взаимоотношений в паре более трети не готовы прибегать к советам ИИ, а, например, такая идея как цифровое клонирование умерших более чем у половины респондентов вызывают отторжение (рис. 4.11). Вероятно, люди сознательно или подсознательно обозначают для себя допустимые пределы подмены реального мира на цифровой, после которого психика человека находится в зоне риска, поскольку граница между реальностью и "имитируемой действительностью" становится все более размытой. Той же природы является и проблема фейковых новостей, когда смоделировать "правду" на любую аудиторию становится делом техники.

Сегодня ИИ весьма убедительно может имитировать голос, принадлежащий человеку, паттерны речевых оборотов и создавать липсинг (движение губ во времени) под любую речь, которую виртуально изображаемый человек никогда не произносил.

Активное развитие ИИ за последние 10 лет подтолкнуло экспертов к разработке мер защиты от рисков, которые представляет ИИ для человека. Одним из первых шагов на этом пути стало принятие так называемых Азиломарских принципов ИИ в январе 2017 г. В числе ключевых позиций данного документа следует выделить принцип "полезного" финансирования (инвестиции следует направлять на обеспечение полезного использования ИИ); принцип "связи науки и политики" (конструктивное взаимодействие между исследователями ИИ и теми, кто регулирует ИИ); принцип "безопасности" и "прозрачности неудач" (предписывает создание ИИ на основе общечеловеческих принципов морали). В документе также фиксируется, что разработчики систем ИИ играют ключевую роль в формировании нравственных последствий использования ИИ и обязаны влиять на такие последствия.

Искусственный интеллект позволяет решать новые задачи, однако результаты применения ИИ далеко не однозначно воспринимаются как фактор снижения уровня угроз. С одной стороны технологии искусственного интеллекта позволяют создавать все более сложные и многокомпонентные решения, безопасность которых в том числе обеспечивается средствами ИИ, с другой стороны, в эти более сложные решения вносятся риски, заключенные внутри самой технологии ИИ.

ИИ - это "палка о двух концах". С одной стороны, мы получаем автономное решение, которое должно предупредить человека об опасностях и снизить риски от мошенничества, невозврата долгов, выявить нетипичное поведение в использовании сервисов компании, выявить наличие зловредного ПО. С другой стороны, ИИ внутри себя содержит определенные опасности в виде обучения на неполных и недостоверных данных, возможных предвзятостей, потенциально возможной дискриминации в отношении разных групп пользователей и т. п. Поэтому исследование того, как профессиональная аудитория оценивает риски при внедрении ИИ (увеличение или уменьшение рисков), представляет особый интерес.

Попытка ответить на этот вопрос путем опроса специалистов представлена на рис. 4.12.

Как следует из рисунка - количество респондентов, которые полагают что риски растут, больше, чем число специалистов, которые рассчитывают, что ИИ приведет к снижению рисков. Заметим, что наименее радужные прогнозы касаются риска увеличения нарушений конфиденциальности.

Мы говорили о морально-этических проблемах, которые очевидны уже сейчас. Большее число проблем, вероятно, ожидает нас в будущем при сосуществовании интеллекта живого и превосходящего его возможности искусственного.

Можем ли мы сказать, что высокий интеллектуальный уровень человека подразумевает соблюдение им высоких морально этическихнорм, и можно ли ожидать, что эти нормы будут соблюдены ИИ в будущем?

Например, человек допускает использование животных в своих целях, в первую очередь оправдывая свои действия тем, что Homo sapiens обладает более развитым интеллектом. Однако остается вопросом, как будет относиться человек к изобретенному им сильному интеллекту (если такой действительно появится). И если человек работает над созданием сильного искусственного интеллекта, готов ли он признать за последним право на то, что этот ИИ будет наделен определенными правами в соответствии с уровнем его интеллекта. Как метко заметили авторы публикации [250], "Мысль о том, что экскаватор лучше копает ямы, не так горька, как мысль о том, что какая-то коробка умнее".

В процессе создания сложных систем, когда мы перестанем понимать, где разница между биологическим мозгом и небиологическим, возникнет вопрос, почему мы одного рассматриваем как члена общества, а другого нет.

Множество этических вопросов вызывают технологии развития интерфейса "мозг - компьютер", который позволяет на основе регистрации биопотенциалов мозга считывать простейшие команды человека, преобразуя их в сигналы для механизмов протеза так, что человек может мысленными командами регулировать работу протеза. Двунаправленные нейроинтерфейсы обеспечивают замкнутый цикл. Компьютерная система получает сигналы от мозга и отправляет в него информацию, что позволяет человеку ощущать устройства, которыми он управляет, как часть собственного тела. Установив в мозг специальный чип, можно устранить слепоту, глухоту или восстановить функции парализованного тела. По данным Neuralink (на основе успешных опытов, проведенных на обезьянах) [251], уже в 2023 г. с помощью решений компании люди с тяжелыми травмами спинного мозга смогут восстановить функциональность своего тела.

В перспективе возможна реализация множества приложений, с помощью которых различные инструменты в буквальном смысле слова становятся продолжением тела человека. Причем, не только будучи физически связанными с человеком, но и будучи инструментами удаленными.

В последнее время мозговые чипы разрабатывались в основном для терапевтических целей, и это скорее относится к медицине, но по мере развития технологии нейропротезирования, вероятно, такие технологии будут использоваться и для совершенствования человека в плане развития и дополнения его возможностей сверх того, что изначально было предусмотрено природой. Для этого явления уже появился термин - "биоусовершенствование".

Люди захотят усовершенствовать свои ментальные возможности: улучшить память сверх того, что сегодня считается биологической нормой, увеличить реакцию, получить новые способности по восприятию и обработке информации.

Перспективы появления данной технологии порождают вопросы из области этики. Кому в первую очередь будут доступны подобные усовершенствования? Не вызовут ли подобные усовершенствования интеллектуальный разрыв между богатыми и бедными? Смогут ли люди без чипов претендовать на престижную работу, не лишат ли подобные усовершенствования человека человечности?

Внимание к вопросам соблюдения вопросов этики в области ИИ растет. На рис. 4.13 по данным AI-Index-Report 2021 представлена статистика, отражающая темы новостных публикаций в СМИ, в которых наиболее часто обсуждается вопрос соблюдения этики в ИИ [252].

Статистика была построена на базе анализа 60 тысяч англоязычных новостных источников и более 500 тыс. блогов в 2020 году. Материалы были сгруппированы в семь тем на основе языкового сходства. Статьи, касающиеся этических рекомендаций и рамок ИИ, возглавили список наиболее освещаемых новостных тем (21%), за ними следуют "исследования и образование" (20%) и "распознавание лиц" (20%).

Из ИИ-технологий, которые наиболее часто приводят к озабоченности, - это именно использование распознавания лица и ошибки, связанные с использованием данной практики. Известны случаи, когда людей арестовывали по ложному совпадению при ошибках распознавания лиц.

В профессиональной литературе обсуждается большое число проблем, которые связывают с разработкой этичного ИИ. Попытку классификации данных проблем можно найти в книге одного из исследователей ИИ Bernd Carsten Stahl (см. табл.4.1).Согласно этой классификации, существует три категории проблем: первые связаны с природой методов машинного обучения, вторые - возникают перед человеком, который вынужден жить в формирующемся "цифровом мире", и третьи - это метафизические экзистенциальные проблемы, связанные с попыткой осмысления перспектив жизни человека и его роли в мире, в котором ИИ будет приобретать все больше автономности.

Поскольку ИИ стал неотъемлемой частью продуктов и услуг, организации начинают разрабатывать этические кодексы ИИ - руководства к действию при выработке этичных решений относительно использования искусственного интеллекта.

Разработка этики ИИ имеет решающее значение для помощи законодателям в создании справедливой политики и законов, а также для руководства работой ученых и исследователей. Оно помогает соблюдать требования, принимать решения о целесообразном финансировании, делать выводы о том, как применять ИИ в своих продуктах и услугах.

Таблица 4.1 наглядно иллюстрирует, как много направлений в трактовке этических проблем в области ИИ и как трудно их иллюстрировать в виде краткой диаграммы. Подобную задачу ставили разные исследователи. В частности, авторы работы под названием "Mapping Consensus in Ethical and Rights-Based Approaches to Principles for AI" изучили 36 основных документов о принципах формирования этичного ИИ, почерпнув информацию из различных типов организаций, чтобы найти в них общие темы и ценности, и попытались свести многочисленные публикации к краткому набору общепринятых принципов в виде простой наглядной диаграммы (рис. 4.14).

Основные принципы не требуют пояснения, за исключением, возможно, принципа "подотчетности", который подразумевает, что сторона, которая выполняет какие-либо действия в отношении клиентов, должна их информировать о том, что именно провайдер делает в отношении этих данных, и о причинах, по которым он это делает.

Вопрос о вероятности сценария, согласно которому развитие машин, оснащенных ИИ, на некотором этапе представит прямую угрозу самого существования человека, одна из самых обсуждаемых тем, связанных с ИИ. Специалисты, которые хотят преуменьшить серьезность проблемы, часто сводят подобное обсуждение к упрощенному вопросу "почему невозможно восстание машин", описанное в фантастических фильмах. Однако негативные последствия для человека, связанные с развитием искусственного интеллекта, могут иметь менее зрелищные, чем голливудские, но не менее опасные формы. Неслучайно лучшие умы из числа специалистов, работавших в данной области, отмечали опасное воздействие ИИ на жизнь человека.

Так, например, комментируя вопрос журналиста "существует ли опасность, что вычислительные машины - когда-нибудь возьмут верх над людьми", Норберт Винер говорил, что если человек когда-то передаст вопрос о способе употребления машин самим этим машинам, то он сам таким образом "напрашивается на неприятность…". А комментируя вопрос, не изменяет ли человек окружающую среду свыше своих способностей приспосабливаться к ней, Винер говорил, что человек этого, возможно, не узнает, поскольку его просто не будет [255].

Решения в области кибербезопасности на базе ИИ

Особый интерес представляет вопрос использования решений на базе ИИ в области обеспечения кибербезопасности, и этот вопрос рассмотрим несколько подробнее. Мы уже упоминали примеры использования систем поиска зловредного ПО с помощью ИИ при рассмотрении технологий компании "Лаборатория Касперского". В данном разделе попробуем представить более общую картину.

На рис. 4.15 показаны результаты исследования Capgemini по использованию разных сценариев кибербезопасности на базе ИИ. Результаты получены на основе опросов руководителей профильных департаментов (850 респондентов). Рассмотрен ряд технологий, использующих ИИ (обнаружение мошенничества, поведенческий анализ пользователя или машины, оценка риска в сети, обнаружение вторжений, защита от эксплойтов Эксплойты - вид вредоносных программ, которые содержат данные или исполняемый код, способный воспользоваться уязвимостями в программном обеспечении на компьютере , защита данных и соответствие нормативным требованиям, обнаружение вредоносного ПО, поведенческий анализ для предотвращения бот-спама Бот-спам - рассылают спам-боты - программы, основной целью которых является автоматизированная рассылка рекламных сообщений - спама , скоринг риска в сети, защита конечных точек Защита конечных точек - это система управления сетевой безопасностью и соответствующие решения, ориентированные на конечные точки сети (устройства, с которых осуществляется доступ к сети) , эксплуатация, автоматизация и реагирование на угрозы безопасности) в рамках разных сценариев применения этих технологий. При этом рассматривается три вида сценариев - с использованием технологии интернета вещей, на базе ИТ-технологий и на базе операционных технологий Типичные сценарии использования ИТ-решений - ERP, CRM, SCM, DB, типичные сценарии операционных технологий SCADA, PLC (последние сценарии, как правило, предполагают использование данных в реальном времени для мониторинга и управления физическими устройствами) . В соответствующих квадрантах показана доля организаций, которые внедрили упомянутые решения.

Сценарии невысокой сложности и большой выгоды связаны с использованием операционных технологий, в частности для обнаружения вторжений и вредоносного ПО. Несмотря на то, что большинство пользователей чаще сталкиваются с использованием ИТ для обеспечения информационной безопасности, использование операционных технологий для обеспечения безопасности весьма эффективно, когда заходит речь о предупреждении атак на контур АСУТП, которые приходят из интернета. Известны случаи, когда в интернет выставляют какой-либо интерфейс промышленного контроллера, терминал или интеграционный интерфейс.

В любом случае это потенциальная уязвимость, а при недостаточном уровне защиты вероятность такой потенциальной уязвимости может приводить к серьезным проблемам безопасности.

В качестве примера можно привести атаку на City Power в ЮАР, атаку на энергетические объекты Венесуэлы, недавний случай - атака на Colonial Pipeline в США, когда был остановлен трубопровод. Это все примеры серьезных проблем, возникших в результате халатного отношения к защите. При правильной организации процессов контур АСУТП не должен быть связан с административным контуром (контуром бизнес-систем), который, как правило, имеет связь с интернетом.