Социально-экономические, этические и юридические аспекты внедрения роботов

Социально-экономические аспекты развития робототехники охватывают широкий спектр вопросов, связанных с появлением робототехнических инноваций. Эти технологии приводят к увеличению производительности труда, появлению новых участников на рынке, замещению традиционных бизнесов и профессий, изменению социального статуса различных социальных групп, а также росту разрыва между благосостоянием владельцев робототехнических средств производства и тех, кто страдает от уменьшения рабочих мест.

Часто обсуждается вопрос о влиянии развития робототехники на возможные потери рабочих мест в определенных профессиональных областях. Отметим, что риск замещения существует как для отдельных специалистов, так и для целых направлений бизнеса. Например, внедрение беспилотного транспорта может привести к увольнениям не только водителей, но также грозит разорением для традиционных транспортных фирм, которые могут быть заменены новыми технологическими компаниями, внедряющими беспилотные системы доставки пассажиров и грузов.

Более того, появление новых технологий приводит к переделу структуры рынка робототехнической индустрии. По мере объединения искусственного интеллекта и робототехники возникают новые компании, обладающие мощными IT-разработками, которые вытесняют традиционных игроков.

В данном разделе мы обсудим возможные сценарии выживания различных компаний в условиях возрастающей конкуренции.

Занятость, замещение рабочих мест

Еще недавно вопрос о замещении человека роботом сводился к идее освобождения людей от рутинной, утомительной и опасной работы. Именно в этой связи возник тезис о том, что роботы будут все больше брать на себя "3D-работу", то есть ту, которая скучна (dull), опасна dangerous) или грязна (dirty), высвобождая творческий потенциал человека. Однако в последнее время список функций, которые могут выполнять роботы, расширяется, поскольку встроенный ИИ позволяет им выполнять все более интеллектуальные задачи.

Оказывается, современные "умные" роботы способны не только заменить человеческую физическую силу, но и интеллектуальные способности людей. Результаты опроса, представленные в работе, указанной на рисунке 16.1, говорят о том, что 69% выпускников колледжей считают, что искусственный интеллект может лишить их работы или сделать ее неактуальной уже через несколько лет. Причем люди с высшим образованием в большей степени беспокоятся о возможной потере работы из-за развития искусственного интеллекта.

Как показывает рисунок 16.1, многие профессии, названные респондентами как потенциальные кандидаты на замещение со стороны ИИ, еще недавно считались престижными и требующими высоко- го уровня образования. Возможно, наиболее впечатляющим приме- ром является девальвация профессии переводчика.

Рис. 16.1. Рейтинг профессий - кандидатов на замещение со стороны ИИ

Источник: [ "Источники использованной литературы" ]

Авторы табл. 16.1 приводят свою версию ТОП-10 профессий, которые в ближайшем будущем рискуют оказаться в компетенции умных роботов и ИИ.

Кто будет учиться быстрее - школьник седьмого класса, который задумался о выборе профессии и у которого впереди еще четыре года средней школы и пять лет института, или ИИ? Какие возможности будут у ChatGPT или аналогичной программы через девять лет? Как быстро устареют знания ученика и насколько они помогут конкурировать с роботами? Насколько целесообразно вкладывать в высшее образование, если навыки, полученные в течение многолетнего обучения могут нивелироваться с ростом "образования" конкурирующего с тобой умного робота?

Нет никаких сомнений, что капиталист-работодатель будет стремиться сокращать те рабочие места, на которые он может поставить умного робота, который будет обходиться дешевле.

Согласно докладу Всемирного экономического форума "Будущее рабочих мест 2020", к 2025 г. ИИ заменит 85 миллионов рабочих мест по всему миру, при том что за тот же период времени он создаст 97 миллионов новых рабочих мест. Теоретически человек в этой арифметике в сумме не проигрывает, однако не очевидно, какая участь ждет те 85 миллионов, которые будут заменены искусственным интеллектом.

До тех пор, пока искусственный интеллект и разумные роботы не достигнут уровня, полностью повторяющего все возможности человека, радикального вытеснения людей с рабочих мест не произойдет. Однако явно видно, что развитие искусственного интеллекта и робототехники будет ставить людей в конкурентную борьбу с ИИ и роботами за те сферы занятости, где пока еще сохраняются преимущества у людей.

Некоторые профессии будут замещены, другие будут модернизироваться и привлекать новых специалистов. Так, потребность в инженерах, специализирующихся на разработке, обучении, интеграции и обслуживании новых робототехнических систем, будет только расти.

Развитие умных роботов потребует привлечения специалистов по профессии Data Scientist - экспертов, которые разрабатывают алгоритмы машинного обучения и статистические модели, основанные на данных, для принятия обоснованных бизнес-решений.

Очевидно, что возрастет спрос на специалистов по кибер безопасности, в том числе на тех, которые будут оценивать уровень угроз, связанный с новыми системами ИИ и умными роботами. Повышение уровня автоматизации и рост числа систем, связанных с ИИ, по- требует экспертов, способных защитить такие системы от кибератак и уязвимостей. Потребуются специалисты по этике ИИ, способные создавать новые нормативные документы, связанные с использованием умных роботов в различных сферах жизни.

При этом заметим, что в табл. 16.1 отмечены не только водители и кассиры (профессии, обычно не требующие высшего образования), но и программисты - работники из сферы информационных технологий, те, кто в том числе создает и программирует роботов.

Приведенная статистика делает менее надежным прогноз о том, что развитие "умной робототехники" будет однозначно требовать все больше разработчиков ПО. С другой стороны, возникает еще один вопрос. Будет ли на рынке достаточное количество молодых людей, способных осваивать новые профессии, учитывая, как быстро в обществе нарастает процент пожилых людей, мало способных к переучиванию? Для ответа на последний вопрос следует обратить внимание на процессы старения населения планеты, о которых поговорим в следующем разделе.

Старение населения и новые профессии роботов

Как известно, возрастная структура населения постоянно меняется. Ожидаемая продолжительность жизни в мире выросла с 34 лет в 1913 г. до 72 лет в 2022 г. Между тем в период с 1970 по 2020 год рождаемость снизилась во всех странах мира. Если в 1945 г. детей в возрасте до 15 лет было в семь раз больше, чем людей в возрасте 65 лет и старше, то к 2050 г. эти группы будут примерно одинаковыми по численности [ "Источники использованной литературы" ].

По прогнозам Всемирной организации здравоохранения, в период с 2015 по 2030 г. доля населения планеты в возрасте старше 60 лет увеличится почти вдвое - с 12 до 22%. Увеличение доли пожилых людей, занятых в производстве, приводит к снижению производительности труда на уровне отдельных работников, что в свою очередь ведет к снижению роста ВВП в масштабах страны. Увеличение доли населения в возрасте 60 лет и старше на 10% снижает темпы роста ВВП на душу населения на 5,5%. Внедрение робототехники позволяет компенсировать этот спад.

Растет не только доля пожилых людей, но и доля одиноких пожилых. Аналитики сходятся во мнении, что старение населения приведет к росту потребности в использовании мобильных сервисных роботов.

Спрос на робототехнику, способную помогать пожилым людям и тем, кто имеет ограниченные возможности, будет продолжать расти. Эти роботы будут оказывать поддержку в передвижении, переносе предметов, осуществлении личной гигиены, выполнении физических упражнений, доставке пищи, а также в ситуациях оповещения опекунов или экстренных служб при необходимости. Кроме того, ожидается увеличение спроса на роботов-компаньонов и роботов для телеприсутствия.

Такие страны как Япония и Южная Корея имеют высокий уровень технологий в области роботизации и сталкиваются с проблемой старения населения, что способствует формированию в этих странах рынка сервисных роботов вышеперечисленных типов.

Возможные сценарии развития бизнеса на рынке роботов

Рис. 16.2. Три сценария - направления развития бизнеса на рынке роботов.

Источник: "Источники использованной литературы"

На рисунке 16.2 представлены три сценария развития робототехники до 2030 г., представленные на двумерной системе координат, где по вертикали отображается "спрос", а по горизонтали - "технологическая готовность".

Данные сценарии носят названия "рост индивидуальных решений", "робот как стандартное устройство автоматизации" и то, что в BCG называют "мир Google". Рассмотрим суть данных наимено- ваний.

Сценарий 1 "Робот как стандартное устройство автоматизации" представляет роботизированные решения, спроектированные для выполнения различных задач в промышленности и для оказания профессиональных услуг.

Роботы данного типа, легкие в установке, настройке и интеграции, внедряются в условиях высокой эффективности их использования и отсутствия нормативных и социальных барьеров для массового применения. Низкая сложность и стандартизация позволяют заказывать и приобретать данные устройства в Интернете. Описанный сегмент рынка определяется как зона с постепенным прогрессом в развитии технологии.

Примеры упомянутых решений включают роботов для доставки товаров на дом, автономных роботов-уборщиков или роботов для подзарядки электронных автомобилей. По мнению BCG, успешными на этом сегменте рынка будут компании, специализирующиеся на поставке доступного мехатронного оборудования, оптимизированного для массового применения и масштабирования. В это поле деятельности войдут не многие из текущих крупных игроков, скорее, это будут компании второго эшелона, сосредотачивающиеся на оптимизации стоимости своих предложений.

Для успешного производства стандартизированных устройств крупные игроки, выбравшие этот рынок, должны рассматривать себя как поставщиков аппаратного обеспечения, используя программное обеспечение от партнеров и общеотраслевые платформы для создания готовых продуктов.

Сценарий 2 "Развитие индивидуальных нишевых решений". В данном сценарии (сегменте рынка) рассматриваются нишевые решения, которые помогают выполнять специфические задачи. Таких решений появляется все больше, например в области сельского хозяйства или в медицине. Компании разрабатывают робототехнические системы для решения конкретных, в том числе узконишевых, задач, таких как, например, машины по уборке определенных видов фруктов или аппараты для проведения некоторых видов медицинских операций. В этом сегменте пока нет вариантов массового спроса. Эти решения не могут сравниться по массовости с внедрением роботов в производстве автомобилей или сборке электроники. В силу ограниченных партий цены на эти робототехнические системы относительно высоки.

В ряде случаев массовый спрос в этом сегменте ограничен нормативными документами. Например, есть перспектива, что регулирующими органами для некоторой ниши беспилотных транспортных средств будут одобрены разрешения на эксплуатацию, но, вероятно, это будет разрешено для небольшого подмножества моделей и не для широкого внедрения, что опять-таки ограничит потенциал объемных продаж.

По прогнозам аналитиков BCG, в данном сегменте рынка будут преобладать небольшие компании и стартапы, обладающие глубокими знаниями в специализированных областях применения роботов и способные адаптировать свои продукты к потребностям заказчика. При этом крупные игроки рискуют занять лидирующие позиции только в своих устоявшихся областях применения, в таких как автомобилестроение или производство электротоваров и электроники. Для успешного выхода на рынок в данном сегменте компании должны фокусироваться на потребностях клиента и предоставлять высокоэффективные решения по минимальным ценам, используя доступное мехатронное оборудование.

Как показано на рисунке, данный сегмент будет обеспечивать рост в условиях сокращения границ безубыточности ^{1Безубыточность наступает, когда предприятие полностью покроет убытки и деятельность компании начнет приносить реальную прибыль} .

Сценарий 3 "Мир Google". В данном сценарии речь идет о решениях, основанных на передовых достижениях в области машинного интеллекта. Этот сценарий дает возможность появления интеллектуальных модульных роботов, способных эффективно функционировать в сложной и динамично меняющейся среде. Модули могут быть заменены с помощью концепции plug-and-play ^{2"подключи и работай".}, что значительно расширяет сферу примене ния роботов. В результате рост объемов производства происходит за счет множества различных вариантов использования робота при гораздо более высокой цене по сравнению со стандартизированными под задачу роботами. Благодаря своей технологической гибкости и интеллектуальным возможностям эти роботы могут быть настроены для широкого спектра применений.

Наиболее активной областью роста, по мнению BCG, станут не роботы для промышленной автоматизации, а роботы для выполнения профессиональных услуг, включая автономные устройства доставки товаров потребителям, для автоматизации гостиничных сервисов, для обслуживания железных дорог и аэропортов и т. п.

На этом рынке ключевым фактором успеха будет программное обеспечение, а доминировать будут крупные цифровые стартапы, в том числе гипермасштабные. Традиционные робототехнические компании в этом сценарии рискуют стать поставщиками мехатронного оборудования, подстраиваемого под стандарты программных платформ софтверных компаний. Мехатроника в данном сценарии все больше будет превращаться в товар широкого потребления, отличающийся от одного производителя к другому только ценой и качеством. По мнению BCG, неизбежен постепенный переход к сценарию "Мир Google", который в ближайшие пару десятилетий с большой долей вероятности станет преобладающим.

На рынке существуют сотни компаний с различным видом бизнеса, технологическим потенциалом, компетенциями, клиентами и т. п. Далеко не все смогут мигрировать в сторону сценария "Мир Google". Очевидно, что определенное развитие получит каждый из перечисленных видов бизнеса и каждый из перечисленных сценариев будет определять свою политику по освоению рынка и стратегические решения для компаний.

Возможные стратегии - это "фокус на группу потребителей", "фокус на продукт" и "фокус на программное обеспечение" (см. табл. 16.2), которые в разной мере будут адекватны разным направлениям /сценариям развития компаний.

Этические и юридические аспекты развития робототехники

Говоря о структуре проблем этического характера в робототехнике, полезно обратиться к схеме рис. 16.3.

Во-первых, робоэтика является частью технологической этики, то есть наследует все те вопросы, которые связаны с появлением любой новации. Многие новые технологии несут в себе риски аварий (особенно на этапе адаптации), подрывают существование традиционных технологий, ведут к переделу рынка, разорению и уходу из бизнеса существующих игроков вместе с наемными сотрудниками и так далее. Во-вторых, роботы, опирающиеся на данные, наследуют вопросы этики данных. В-третьих, робоэтика связана с проблемами, возникающими вместе с развитием ИИ. Рассмотрим перечисленные вопросы чуть более подробно.

Рис. 16.3. Структура и взаимосвязь этических проблем, возникающих в робототехнике.

Источник: [ "Источники использованной литературы" ]

Технологическая этика

Практически любая новая технология привносит вместе с собой определенные проблемы, несет угрозы. Нужно некоторое время, чтобы человек адаптировался к новации, научился нивелировать риски, находить юридические, технические и другие средства, которые позволяют снизить угрозы, связанные с применением новшества. На стадии первых внедрений уровень угрозы высок (рис. 16.4), а уровень мер безопасности, сдерживающий риски, недостаточен в силу малой изученности технологии. Соответственно, на этапе первых внедрений вероятность аварии максимальна, но она снижается по мере роста степени изученности технологии и появления средств обеспечения безопасности.

Рис. 16.4. Динамика развития угроз со стороны новых технологий и систем безопасности, компенсирующих эти угрозы

Источник: по материалам [ "Источники использованной литературы" ]

Схема (рис. 16.4) справедлива для внедрения многих революционных технологий. Внедряя мирный атом, человечество прошло через серию аварий и научилось строить более безопасные станции. Внедрив информационные технологии, человечество столкнулось с появлением вирусов, сетевых атак и также научилось жить с этими угрозами, придумав антивирусы и утвердив нормативные акты, предусматривающие ответственность лиц за применение зловредного ПО.

Этические вопросы, связанные с опасностью появления новой техники, можно разделить на две категории. Первая ставит вопрос "Насколько этично применение технологии в благих целях, если есть вероятность аварии при ошибках человека, ее эксплуатирующего?". Яркий пример - аварии на АЭС, которые приводили к гибели людей.

Вторая категория вопросов - "Насколько этично создавать технологии, которые по своей задумке направлены на совершение действий, противоречащих нормам этики и морали, и могут привести к массовым жертвам в силу решений, принятых несовершенными в моральном плане людьми?".

Первое опасение связано с несовершенством технологии. Второе - с несовершенством самого человека. То есть опасение связано с тем, что пороки людей, помноженные на силу техники, могут уничтожить само человечество.

Говоря о том, что этические проблемы, связанные с новыми технологиями, являются старой проблемой, отметим, что у этой старой проблемы есть новые особенности. На рис. 16.4, по сути, представлено развитие науки и техники в виде концепции "два шага вперед, один назад" - в том смысле, что, увидев угрозу дальнейшего раз- вития технологии, человечество ставило под запрет некоторые действия и возвращалось назад на "безопасные рубежи". Однако известно, что циклы появления и распространения новых технологий сокращаются, что говорит о проблеме наступления некой точки сингулярности.

Суть концепции сводится к тому, что ускорение технологического прогресса приведет к моменту, когда этот прогресс станет настолько быстрым и сложным, что окажется недоступным для понимания и, соответственно, невозможным для управления человеком. Опасность появления такой точки сингулярности тем и пугает ученых, что времени на паузу и выработку противоядия может не оказаться. В несколько упрощенной форме суть концепции на примере робототехники можно свести к фразе "Успеем ли мы понять, что роботы окончательно выходят из-под нашего контроля?".

Этика данных

Этика данных включает широкий круг вопросов, связанных с конфиденциальностью, прозрачностью, подотчетностью, доверием и предвзятостью данных. Этика данных подразумевает регулирование процесса разработки и соблюдение принципов ответственного обращения с данными. К вопросам этики данных относится обеспечение законности и прозрачности сбора данных, минимизация риска нанесения вреда обществу, соблюдение политики использования данных и кодексов поведения пользователей данных.

Этика данных играет важную роль в контексте робототехники, поскольку роботы опираются на данные для принятия решений и действий.

Сенсорные системы роботов постоянно совершенствуются, и роботы получают все больше данных об окружающей среде, в том числе через камеру или микрофон, при этом часть получаемых данных будут являться персональными данными людей, окружающих эти машины. Организациям, эксплуатирующим роботов, необходимо обеспечить обработку данных, не нарушая политики защиты персональных данных. Вопросы этики данных применительно к робототехнике постоянно получают новые аспекты по мере появления новых устройств. Например, появление летающих роботов, способных вести видеонаблюдение, привело к опасениям по поводу сбора частной информации. Нарушения неприкосновенности частной жизни, а также возможности применения беспилотников в злонамеренных целях требуют новых норм регулирования. Правительства по всему миру приняли нормативные акты, направленные на решение этих проблем, например требование регистрации дронов и ограничение их использования в определенных районах.

Этика ИИ и робоэтика

На рис 16.5 показана динамика публикаций, связанных с проблемами робоэтики и этики искусственного интеллекта. Авторы исследования говорят о том, что этические проблемы, связанные с ИИ, обго няют по значимости вопросы робоэтики. Это не совсем верно, принимая во внимание, что современная робототехника становится все более умной. Можно сказать, что робоэтика наследует большинство этических проблем в области ИИ ^{3Вопросы этики в области ИИ были рассмотрены авторами в книге "ИИ. Анализ, тренды, мировой опыт".} и в некотором смысле "выносит их в воплощенный мир из мира виртуального".

Рис. 16.5. Динамика публикаций в области этики робототехники и в области этики искусственного интеллекта

Источник: [ "Источники использованной литературы" ]

Если до эпохи появления ИИ и умных роботов тревога человечества сводились к тому, что техника окажется слишком мощным орудием в руках людей, лишенных гуманистического начала, то с появлением умной робототехники возникает вопрос - будет ли это гуманистическое начало превалировать у умного робота, действия которого станут все более автономными, а человеческое сообщество начнет перекладывать на него решение все большего числа значимых вопросов. Таким образом, развитие умных роботов приводит к подобным новым этическим вопросам. Перечислим некоторые из них.

Этика летального автономного оружия. Эта проблема связана с негативными последствиями применения роботизированного оружия, которое может действовать без надзора или вмешательства человека, возможности причинения непреднамеренного вреда, нарушений международных законов, прав человека и т. п.

В дебатах вокруг этики смертоносного автономного оружия участвуют представители правительств, военные эксперты, специалисты по этике, правозащитники и другие. Выработка отношения к вопросу происходит под влиянием двух противоположных позиций - одни выступают за ограничение технологии, за выработку и применение строгих этических стандартов, другие утверждают, что разработка технологии становится основой для национальной обороны и безопасности и что самоограничения в этой области могут привести к отставанию от потенциального противника.

К этой теме относятся и более общие вопросы. Может ли умная военная робототехническая система создать угрозу или спровоцировать военный конфликт? Может ли умная робототехника попасть во владение противника, потенциально способствуя утечке критических технологических преимуществ? Может ли умная робототехника попасть в руки террористов?

Несмотря на попытки нормативно ограничивать роботизацию в военной сфере, аналитики прогнозируют значительный рост мирового рынка военной и в том числе автономной робототехники. Данный прогноз опирается на данные роста геополитической напряженности, увеличение оборонных бюджетов ряда стран, рост интереса к беспилотным системам, уже сейчас активно используемым для нанесения ударов по людям и технике.

Проблема эмоциональной связи человека с роботом является еще одной широко обсуждаемой проблемой умной робототехники. Так называемая "однонаправленная эмоциональная связь" относится к феномену установления эмоциональной связи с умными роботами, при которой человек может проецировать на робота-компаньона свои эмоции и воспринимать его как доверенное лицо.

Подобные эмоциональные связи могут возникать в ситуациях, когда робот предназначен для социального взаимодействия или эмоциональной поддержки пожилых людей или людей с ограниченными возможностями. Эмоциональные связи с роботами, направленные на уменьшение одиночества, могут, напротив, приводить к ограничению социальной активности человека.

По мере того как роботы буквально входят в доверие к людям, специалисты, которые создают и обучают этих роботов, получают определенную степень контроля над теми, кто этими роботами пользуются.

Преодоление проблем, связанных со старением нации, видится в появлении помощников для слабеющей разумом части населения. Однако преодоление одной проблемы рождает новые. В курсе, посвященной искусственному интеллекту^{4 "Искусственный интеллект. Анализ тренды, мировой опыт"} , мы говорили о том, что ИИ, реализованный в виде многочисленных интернет-программ, может манипулировать сознанием людей и влиять на их поведение. Но необходимо заметить, что есть существенная разница между программой и существом, которое тебя в буквальном смысле кормит, одевает и одновременно дает советы, как лучше оформить наследство/

Этический кодекс гласит: "Всегда следует уважать человеческую уязвимость, как физическую и психологическую" и "не допускать расистских, сексистских моделей поведения при создании роботов". Опасение состоит в том, что коммерциализация и уважение к человеческой уязвимости - категории если не взаимоисключающие, то, по крайней мере, не всегда совпадающие.

Вторжение роботов в духовную сферу человека - это еще один аспект развития умных машин. Компания BBC сняла фильм, в котором рассказала о попытках применения умных машин в религиозной сфере путем создания роботов-священников, которые могут читать проповедь, молиться с прихожанами, отвечать на вопросы, обсуждать сакральные темы [ "Источники использованной литературы" ]. Для одной и, наверное, подавляющей части верующих это пример неэтичного вторжения в сферу (куда в принципе не должны проникать существа, не имеющие души), для другой части прихожан - возможность аккумулирования духовного опыта всего человечества в виде искусственного интеллекта-робота кажется заманчивой идеей передачи духовной мудрости людям.

Вторжение роботов в интимные отношения. Создание роботов для интимных отношений вызывает в обществе вопросы, насколько такой робот может заменить партнеров-людей и какие у этого будут последствия.

Наделение машин социальными правами. На протяжении последних ста лет ученые неоднократно делали прогнозы насчет принципиальных ограничений роботов: что искусственные машины никогда не смогут подобно живым людям решать логические задачи, доказывать теоремы, играть в шахматы, генерировать картины и тексты, которые невозможно отличить от создаваемых человеком. Увы, все эти предсказания оказались ложными. Вооруженные таким историческим опытом, некоторые современные социологи логично предполагают, что если роботы "смогут двигаться как люди, выглядеть как люди, думать как люди, чувствовать как люди, то, вероятно, у человека появляется моральная ответственность перед созданными машинами и обязанность уважать права этих машин на существование, возможность размножаться, получать гражданство, участвовать в по- литической жизни людей и т. п." [ "Источники использованной литературы" ].

Рассматриваемая тема имеет психологические аспекты. Уже сегодня возникает вопрос, "правильно ли оценивать действия роботов и человека по разным меркам". Исследования [ "Источники использованной литературы" ] показали, что люди требуют от роботов гораздо большего успеха, чем от живых людей, несмотря на то что роботы справляются с решением этих задач с меньшим количеством ошибок, чем люди. Каково, например, отношение общества к случаям "смерть по вине робота"? Почему отношение к смерти по вине водителя-человека рассматривается как более приемлемое для общества событие, чем смерть, вызванная роботом-автомобилем? Некоторые исследования показывают, что более раннее внедрение автомобилей без водителя может спасти больше жизней людей по сравнению с традиционными автомобилями, управляемыми человеком. При этом неочевиден ответ на вопрос "Какой уровень смертельных случаев по вине беспилотного такси приемлем для их широкого внедрения в практику?".

Киборгизация человека. Если роботы приобретают все больше возможностей человека, то люди в процессе киборгизации, видимо, будут приобретать все большие возможности роботов. Коэволюция человека и умных роботов приведет ко все большему проникновению вычислительных устройств в тело человека. Это ставит экзистенциальные вопросы: должен ли человек пытаться усовершенствовать свое тело за счет внедрения в него электронных компонентов и, наконец, должен ли человек пытаться продолжить свою жизнь, выходя за рамки тела данного от природы, будут ли подобные средства продления жизни доступны только богатой части общества? Тема уже обросла противниками и сторонниками, несмотря на то что многие вопросы пока носят прогностический характер.

Автономное размножение роботов. Существуют проблемы, которые робототехника ставит перед человеком уже сегодня, другие (такие как проблема автономного размножения роботов) выступают как потенциально возможные угрозы. Развитие эволюционных вычислений, 3D-печати и материаловедения позволяет создавать роботов, которые могут автономно размножаться и эволюционировать, ослабляя контроль за этими процессами со стороны человека.

Присущая эволюционным системам адаптивность, стохастичность и сложность серьезно ослабляют человеческий контроль и вызывают новые виды опасностей [ "Источники использованной литературы" ]. При этом ученые и инженеры все ближе подходят к этапу развития технологий, когда станет возможно массовое создание эволюционирующих самовоспроизводящихся роботов, которые потребуют нового пространства под свое размножение и развитие.

Юридические аспекты внедрения роботов и ИИ

Внедрение умных роботов требует разработки новых правовых норм и стандартов для регулирования и контроля их использования, особенно в областях, где применяются автономные роботы. Например, постепенно разрабатывается законодательство, регламентирующее правила движения автономного транспорта, которое просто необходимо для формирования рынка беспилотных перевозок. Разные страны находятся на разных этапах разработок самой технологии и ее правового обеспечения. Американские компании, такие как Cruise, Waymo, Tesla, Zoox и Mobileye, а также китайские AutoX, Apollo, Pony и WeRide активно работают по развитию рынка беспилотного транспорта, и несколько компаний уже предоставляют его услуги клиентам.

В ряде штатов США, включая Калифорнию и Неваду, приняты законы, разрешающие тестирование и эксплуатацию автономных автомобилей на дорогах общего пользования.

В Китае созданы пилотные зоны и площадки для тестирования автономных автомобилей, а также введены правила проведения дорожных испытаний.

В Европе наиболее активна в данном вопросе Германия, которая разрабатывает правовую базу для поддержки и внедрения автономного транспорта. Япония также активно участвует в регулировании автономных автомобилей. Страна внесла поправки в существующие законы, включая закон о дорожном движении и закон о дорожно-транспортных средствах, чтобы приспособить их к технологиям автономного вождения [ "Источники использованной литературы" ].

Определенные сдвиги в принятии законодательства о движении беспилотного транспорта происходят и в России. Например, в марте 2022 г. Правительство РФ утвердило экспериментальный правовой режим для применения беспилотного транспорта. Согласно документу, "на 158 улицах Москвы машины будут ездить под контролем водителя-испытателя, а в Иннополисе в Татарстане и технопарке "Сколково" в Московской области - без него" [ "Источники использованной литературы" ].

Беспилотный транспорт - это наиболее наглядный пример отрасли, в которой роботизация невозможна без решения вопросов о том, кто несет ответственность за действия беспилотных роботов при несчастных случаях.

Но аналогичные вопросы возникают везде, где используются автономные и полуавтономные роботы. Кто несет ответственность за совершение ошибок в случае телеуправления, когда оператор смотрит на рабочую зону глазами робота и совершает ошибку в силу неадекватного представления рабочей зоны?

Любым компаниям, производящим продукцию с помощью роботов, важно понимать, что у них есть страховка для покрытия рисков, связанных с эксплуатацией специфических средств производства, и что они в состоянии распределить ответственность в случае ее возникновения и взыскать соответствующие убытки в результате каких-либо сбоев, опираясь на соответствующее законодательство.

Развитие умной робототехники непосредственно связано с правовым регулированием применения ИИ. Выработка данного законодательства - вопрос не простой и не быстрый. В конце 2023 г. Европарламент и правительства стран Евросоюза пришли к соглашению по закону, регулирующему сферу ИИ, который вступит в силу в лучшем случае в 2025 г. В документе системы ИИ разделяются на четыре категории. К системам минимального риска не будет предъявляться никаких требований. Для приложений категории "высокого риска", применяемых в критически важных инфраструктурах, потребуется надзор со стороны операторов-людей.

В категорию "неприемлемого риска" выделены системы ИИ, "угрожающие фундаментальным правам людей". Например, такие, которые позволяют распознавать лица в реальном времени.

В категорию систем с "особыми рисками прозрачности" выделены большие генеративные системы, такие как ChatGPT. Производимый ими контент должен будет иметь специальную маркировку.

Развитие робототехники может помочь в решении сложных человеческих проблем, повысить эффективность производства, сократить время и затраты во многих отраслях жизнедеятельности. Важно достигнуть баланса между нравственными принципами и полезностью для общества