Подходы и методы регулирования применения искусственного интеллекта и ответственности за эти действия

Научно-техническим центром ФГУП «ГРЧЦ» проведено исследование подходов и методов регулирования применения искусственного интеллекта и ответственности за эти действия в России, иностранных государствах и межгосударственных объединениях мира и выявлены перспективы развития такого регулирования.

В процессе исследования проведен анализ нормативных правовых актов Российской Федерации в области регулирования применения искусственного интеллекта. Фундаментальным правоустанавливающим правовым актом в области искусственного интеллекта в России является Указ Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации», которым определена базовая терминология в области регулирования отношений, связанных с искусственным интеллектом, определены принципы его использования и изложена история развития информационных систем и программного обеспечения, помогающих человеку принимать решения.

Проанализированы положения распоряжения Правительства Российской Федерации от 19 августа 2020 г. № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 г.».

В процессе исследования выявлено, что в Концепции затрагиваются вопросы регулирования оборота данных, юридической ответственности в случае применения искусственного интеллекта, информационная безопасность, возможность применения технологий искусственного интеллекта в медицине, промышленности, транспорте, государственном и муниципальном управлении, градостроительстве, космической деятельности и т.д.

С точки зрения инноваций в регулировании искусственного интеллекта, с 1 июля 2020 года в Москве на 5 лет введен экспериментальный правовой режим в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта. Для этого закон наделил мэрию Москвы полномочиями по определению на территории Москвы условий, требований и порядка разработки создания, внедрения и реализации отдельных технологий искусственного интеллекта, случаев и порядка использования результатов применения искусственного интеллекта, порядка и условий обработки участниками экспериментального правового режима обезличенных персональных данных.

Что касается подзаконного регулирования, проанализирован ряд действующих государственных стандартов в области искусственного интеллекта.

Проанализировано правовое регулирование комплекса мероприятий по тестированию и поэтапному вводу в эксплуатацию на дорогах общего пользования высокоавтоматизированных транспортных средств (ВАТС) и прецедент регистрации ПАО Сбербанк программного обеспечения, созданного при помощи искусственного интеллекта. Программа Artificial Vision («Искусственное зрение»), которая является частью программного комплекса, разработанного командой Sber AI в рамках направления AGI (сильный искусственный интеллект).

В рамках анализа мировых инициатив в области применения искусственного интеллекта отражены результаты деятельности Обсерватории Организации экономического сотрудничества и развития по политике в области искусственного интеллекта. Обсерватория представляет собой комплексную аналитическую платформу по обзору политических мер и различных инициатив государств мира в области искусственного интеллекта.

По данным Обсерватории, среди мировых лидеров в области инициатив в сфере искусственного интеллект – США (47 инициатив), Великобритания (46 инициатив), Германия (31 инициатива).

Также с точки зрения мирового опыта интересен опыт внедрения компанией VISA системы SSTIP, которая может автоматически определить «добросовестность» транзакции и разрешить (или запретить) перевод денежных средств на основе истории платежей и переводов держателя платежной карты, местоположения продавца по отношению к держателю платежной карты, времени совершения покупки и прочим наборам сведений.

Проанализирована деятельность американского управления DARPA в части использования видеоигр для обучения искусственного интеллекта, способного разрабатывать выигрышные стратегии ведения боевых действий.

В контексте правового регулирования проведен анализ актов Европейского союза: Резолюции по использованию искусственного интеллекта (ИИ) в военных и мирных целях и законопроекта о гармонизации правил в области искусственного интеллекта (законопроект об искусственном интеллекте). Согласно положениям законопроекта, в Европейском союзе возможен полный запрет использования определенных «имеющих высокую степень опасности» систем искусственного интеллекта. На неисполняющие запрет государства могут быть наложены санкции, а в отношении юридических лиц могут предусматриваться крупные штрафы.

С точки зрения нормативных правовых актов государств мира в области регулирования искусственного интеллекта исследован опыт Французской Республики, адаптировавшей законодательство в области правил дорожного движения к появлению автоматизированных транспортных средств, Национальная стратегия кибербезопасности Республики Корея, а также опыт Японии в части принятия концепции Общества 5.0, где рассматриваются информационные решения, которые должны быть внедрены в целях развития для цифровизации общества, в различных сегментах жизни населения: здравоохранение, мобильность, инфраструктура, финансовые технологии.

В рамках анализа правоприменительной практики следует отметить прецедент, произошедший в США с компанией Uber, в части юридической квалификации вины при ДТП с участием беспилотного транспортного средства, в результате которого обвинение было предъявлено лицу, осуществляющему функции «резервного водителя», а также опыт США по использованию искусственного интеллекта в судебной системе.

Предложено рассмотреть возможность издания федерального закона в области искусственного интеллекта ввиду особенностей системы правоотношений, регулирующих применение искусственного интеллекта, а также их комплексного характера и широких перспектив для развития и применения. Здесь возможен к применению в России законодательный опыт Республики Корея, поскольку в данном государстве впервые был принят закон о регулировании искусственного интеллекта, роботов и объектов робототехники (в 2008 году вступил в силу Закон «О содействии развитию и распространению умных роботов»).

В заключительной части исследования изложены выводы и проведен анализ возможности применения опыта государств и межгосударственных объединений в регулировании применения искусственного интеллекта в Российской Федерации.

В качестве вывода констатируется, что законодательство Российской Федерации является одним из ведущих по степени своего развития как ввиду совокупности действующих отраслевых нормативных правовых актов, так и с учетом проектов соответствующих правовых актов, разработанных органами власти и готовящихся к принятию.

В то же время, ряд законодательных и правоприменительных инициатив государств мира, таких как концепция Общества 5.0 Японии, применение компанией VISA системы SSTIP и опыт американского управления DARPA в части использования видеоигр для обучения искусственного интеллекта возможен к потенциальному применению в Российской Федерации.

Предложено рассмотреть возможность применения опыта Франции по внесению изменений в положения Дорожного кодекса и Транспортного кодекса в рамках реализации в России комплекса мероприятий по тестированию и поэтапному вводу в эксплуатацию на дорогах общего пользования высокоавтоматизированных транспортных средств (ВАТС).

Вместе с тем отмечено, что во Франции существенным образом изменяется правовой режим уголовной ответственности, который позволяет водителю освободиться от ответственности в случае ДТП при условии, если автоматизированная система вождения осуществляла работу в соответствии с требованиями нормативов.

В выводах исследования констатировано, что при рассмотрении возможности ограничения в России уголовной ответственности физического лица при ДТП, произошедшего с участием искусственного интеллекта, потребуется фундаментальный пересмотр положений отечественного законодательства в контексте квалификации искусственного интеллекта как субъекта и объекта права, а также квалификации деяний, совершаемых искусственным интеллектом как субъектом права.

Вышеизложенный вывод сделан на основании комплексного анализа действующей в Российской Федерации правовой системы с акцентом на положения части 4 Гражданского кодекса Российской Федерации и с учетом мнений представителей научного сообщества (приведены в исследовании).

Регулирование применения искусственного интеллекта в Российской Федерации

Ввод в эксплуатацию высокоавтоматизированных транспортных средств на дорогах общего пользования

Сбер первым в России зарегистрировал программное обеспечение, созданное искусственным интеллектом

Мировые инициативы в области применения искусственного интеллекта: аналитический обзор

Система проверки банковских платежей на основе искусственного интеллекта компании VISA

IBM прекратило разработку технологии распознавания лиц на фоне реформы полиции США

Инициативы по внедрению искусственного интеллекта в индустрии видеоигр

Нормативные правовые акты государств мира, регулирующие применение искусственного интеллекта и устанавливающие ответственность

Европейский союз

Законодательство о беспилотных автомобилях Французской Республики

Юридическая квалификация вины при ДТП с участием беспилотного транспортного средства: прецедент компании UBER

Базовые тезисы Общества 5.0 в Японии

Законодательный опыт Республики Корея в области искусственного интеллекта

Опыт США по использованию искусственного интеллекта в судебной системе

Заключение. Возможность применения опыта государств и межгосударственных объединений в регулировании применения искусственного интеллекта в Российской Федерации

Регулирование применения искусственного интеллекта в Российской Федерации

Отношения в сфере правового регулирования искусственного интеллекта являются ведущей и наиболее перспективной отраслью взаимодействия хозяйствующих субъектов как в Российской Федерации, так и во всем мире. Данное обстоятельство вызвано, в первую очередь, инновационным характером объекта регулирования, применение которого заменяет действия человека. При этом такое применение осложняется неоднозначностью квалификации искусственного интеллекта с юридической точки зрения.

Фундаментальным правоустанавливающим правовым актом в области искусственного интеллекта в России является Указ Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (далее – Указ № 490), согласно преамбуле которого основные цели регулирования данной области:

обеспечение ускоренного развития искусственного интеллекта в Российской Федерации;

проведение научных исследований в области искусственного интеллекта;

повышение доступности информации и вычислительных ресурсов для пользователей;

совершенствование системы подготовки кадров в данной области.

Согласно пункту 5 Указа № 490 искусственный интеллект – это комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений;

технологии искусственного интеллекта – технологии, основанные на использовании искусственного интеллекта, включая компьютерное зрение, обработку естественного языка, распознавание и синтез речи, интеллектуальную поддержку принятия решений и перспективные методы искусственного интеллекта;

перспективные методы искусственного интеллекта – методы, направленные на создание принципиально новой научно-технической продукции, в том числе в целях разработки универсального (сильного) искусственного интеллекта (автономное решение различных задач, автоматический дизайн физических объектов, автоматическое машинное обучение, алгоритмы решения задач на основе данных с частичной разметкой и (или) незначительных объемов данных, обработка информации на основе новых типов вычислительных систем, интерпретируемая обработка данных и другие методы).

Указом № 490 определена базовая терминология в области регулирования отношений, связанных с искусственным интеллектом, определены принципы его использования и изложена история развития информационных систем и программного обеспечения, помогающих человеку принимать решения.

Так, Указом № 490 констатируется, что развитие информационных систем, помогающих человеку принимать решения, началось с появления в 1950-х годах экспертных систем, описывающих алгоритм действий по выбору решения в зависимости от конкретных условий. На смену экспертным системам пришло машинное обучение, благодаря которому информационные системы самостоятельно формируют правила и находят решение на основе анализа зависимостей, используя исходные наборы данных (без предварительного составления человеком перечня возможных решений), что позволяет говорить о появлении искусственного интеллекта.

В то же время отмечается, что в настоящее время в мире происходит ускоренное внедрение технологических решений, разработанных на основе искусственного интеллекта, в различные отрасли экономики и сферы общественных отношений. По оценкам экспертов, ожидается, что благодаря внедрению таких решений рост мировой экономики в 2024 году составит не менее 1 трлн долларов США.

При этом согласно пункту 35 Указа № 490 в России к 2024 году должен существенно повыситься уровень участия российских специалистов в международном обмене знаниями, их вклад в создание открытых библиотек искусственного интеллекта. Российскими специалистами должны быть созданы широко применяемые в мире открытые библиотеки (координируемые российскими исследователями и научным сообществом) и программное обеспечение, в которых используются технологии искусственного интеллекта.

Что касается правового регулирования, то к 2024 году должны быть созданы необходимые правовые условия для достижения целей, решения задач и реализации мер, предусмотренных утвержденной Указом № 490 стратегией.

Тенденция правового регулирования отношений в области использования искусственного интеллекта продолжилась принятием распоряжения Правительства Российской Федерации от 19 августа 2020 г. № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 г.».

Целью утверждаемой Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники (далее – Концепция) является определение основных подходов к трансформации системы нормативного регулирования в Российской Федерации для обеспечения возможности создания и применения таких технологий в различных сферах экономики с соблюдением прав граждан и обеспечением безопасности личности, общества и государства. Одновременно целями Концепции являются создание предпосылок для формирования основ правового регулирования новых общественных отношений, складывающихся в связи с разработкой и применением технологий искусственного интеллекта и робототехники и систем на их основе, а также определение правовых барьеров, препятствующих разработке и применению указанных систем.

Что касается правового регулирования соответствующих отношений, в Концепции затрагиваются вопросы регулирования оборота данных, юридической ответственности в случае применения искусственного интеллекта, информационная безопасность, возможность применения технологий искусственного интеллекта в медицине, промышленности, транспорте, государственном и муниципальном управлении, градостроительстве, космической деятельности и т.д.

По итогам конференции «Путешествие в мир искусственного интеллекта», состоявшейся 4 декабря 2020 года, Президент Российской Федерации В.В. Путин утвердил Перечень поручений по итогам конференции по искусственному интеллекту» (утв. Президентом РФ 31.12.2020 № Пр-2242).

Так, Правительству Российской Федерации, в частности, было поручено обеспечить принятие федеральных законов, предусматривающих возможность установления в отдельных отраслях экономики и социальной сфере экспериментальных правовых режимов в целях расширения применения технологий искусственного интеллекта;

в целях ускоренного создания отечественного программного обеспечения и программно-аппаратных комплексов на основе технологий искусственного интеллекта обеспечить внесение в законодательство Российской Федерации изменений, предусматривающих предоставление (при условии обеспечения защиты персональных данных) организациям, разрабатывающим технологические решения на основе искусственного интеллекта, доступа к наборам данных, содержащимся в том числе в государственных информационных системах, а также возможности использования указанными организациями таких данных.

Здесь следует отметить, что с 1 июля 2020 года в Москве на 5 лет был введен экспериментальный правовой режим в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта. Для этого закон наделил мэрию Москвы полномочиями по определению на территории Москвы условий, требований и порядка разработки создания, внедрения и реализации отдельных технологий искусственного интеллекта, случаев и порядка использования результатов применения искусственного интеллекта, порядка и условий обработки участниками экспериментального правового режима обезличенных персональных данных.

Помимо изложенного, Федеральным законом от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации – городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных» были внесены изменения в законодательство о персональных данных, допускающие обработку обезличенных персональных данных о состоянии здоровья граждан для реализации эксперимента.

Что касается подзаконного регулирования, в Российской Федерации действует ряд государственных стандартов в области искусственного интеллекта, среди которых:

ГОСТ Р 43.0.8-2017. Национальный стандарт Российской Федерации. Информационное обеспечение техники и операторской деятельности. Искусственно-интеллектуализированное человекоинформационное взаимодействие. Общие положения (утв. и введен в действие Приказом Росстандарта от 27.07.2017 № 757-ст). Вводит определение гибридного интеллекта: деятельность мышления, осуществляемая с использованием гибридно-интеллектуализированного человекоинформационного взаимодействия, и искусственного интеллекта: моделируемая (искусственно-воспроизводимая) интеллектуальная деятельность мышления человека;

ГОСТ Р 59277-2020. Национальный стандарт Российской Федерации. Системы искусственного интеллекта. Классификация систем искусственного интеллекта (утв. и введен в действие Приказом Росстандарта от 23.12.2020 № 1372-ст), согласно которому искусственный интеллект (artificial intelligence) – это комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение, поиск решений без заранее заданного алгоритма и достижение инсайта) и получать при выполнении конкретных практически значимых задач обработки данных результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека.

Другие ГОСТы в области искусственного интеллекта:

ГОСТ Р 58776-2019. Средства мониторинга поведения и прогнозирования намерений людей. Термины и определения;

ГОСТ Р 59276-2020. Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения;

ГОСТ Р 59278-2020. Информационная поддержка жизненного цикла изделий. Интерактивные электронные технические руководства с применением технологий искусственного интеллекта и дополненной реальности. Общие сведения;

ГОСТ Р 59277-2020. Системы искусственного интеллекта. Классификация систем искусственного интеллекта;

ГОСТ Р 59385-2021. Информационные технологии. Искусственный интеллект. Ситуационная видеоаналитика. Термины и определения;

ГОСТ Р 59391-2021. Средства мониторинга поведения и прогнозирования намерений людей. Аппаратно-программные средства с применением технологий искусственного интеллекта для колесных транспортных средств. Классификация, назначение, состав и характеристики средств фото- и видеофиксации.

Ввод в эксплуатацию высокоавтоматизированных транспортных средств на дорогах общего пользования

Отдельного внимания заслуживает комплекс мероприятий по тестированию и поэтапному вводу в эксплуатацию на дорогах общего пользования высокоавтоматизированных транспортных средств (ВАТС), реализуемый на основании положений постановления Правительства Российской Федерации от 26 ноября 2018 года № 1415.

8 июня 2021 года был представлен законопроект «О высокоавтоматизированных транспортных средствах» (ВАТС), подготовленный Министерством транспорта Российской Федерации. Законопроектом закрепляются правила эксплуатации для беспилотных автомобилей, передвигающихся по дорогам без участия водителя.

В настоящий момент законопроект не внесен в Государственную думу Российской Федерации, однако идет активное взаимодействие сотрудников Минтранса со СМИ по вопросу предлагаемых положений. Так, согласно полученной журналистами издания «Коммерсант» от сотрудников Минтранса информации, в случае ДТП вред возмещает владелец ВАТС. Он покрывает ущерб здоровью и имуществу как физического лица, так и юридического лица.

Если выяснится, что вред был нанесен из-за конструктивных недостатков ВАТС, его владелец может обратиться с требованием к изготовителю автомобиля. Тот, в свою очередь, может обратиться с регрессным требованием к изготовителю компонентов для ВАТС, если будет доказано, что именно в них была причина аварии. Данная схема вводится законом специально, пояснили в Минтрансе, для упрощения процедуры получения компенсации пострадавшим в ДТП с беспилотным автомобилем. В ведомстве заметили, что содержание этой статьи может измениться в ходе публичного обсуждения и доработки законопроекта.

Сбер первым в России зарегистрировал программное обеспечение, созданное искусственным интеллектом

23 июля 2021 года ПАО Сбербанк первым в России зарегистрировал программное обеспечение, созданное при помощи искусственного интеллекта. Программа Artificial Vision («Искусственное зрение»), которая является частью программного комплекса, разработанного командой Sber AI в рамках направления AGI (сильный искусственный интеллект), предназначена для сопоставления пикселей изображения с искусственным интеллектом и может применяться для создания модели, способной существовать в виртуальной среде и учиться восприятию визуальных объектов.

Программа зарегистрирована в Роспатенте и внесена в Реестр программ для ЭВМ под регистрационным номером 2021661571.

В качестве авторов были указаны разработчики Sber AI, которые изначально обучили нейросеть, написавшую программный код.

Этот уникальный прецедент свидетельствует о практике признания в России в качестве авторов результата интеллектуальной деятельности, созданного искусственным интеллектом, авторов такого искусственного интеллекта.

При этом согласно позиции Александра Ведяхина, первого заместителя председателя правления ПАО Сбербанк, в ближайшей перспективе мировому сообществу еще предстоит прийти к консенсусу о том, кого стоит считать автором произведения, созданного автономно искусственным интеллектом: сам искусственный интеллект, разработчиков, создавших нейросеть и обучивших ее, или кого-либо еще.

Мировые инициативы в области применения искусственного интеллекта: аналитический обзор

В государствах и межгосударственных объединениях мира применение искусственного интеллекта или технологий на базе искусственного интеллекта развивается активными темпами.

На базе Организации экономического сотрудничества и развития (ОЭСР) 27 февраля 2020 года была создана Обсерватория Организации экономического сотрудничества и развития по политике в области искусственного интеллекта (далее – Обсерватория). Обсерватория представляет собой комплексную аналитическую платформу по обзору политических мер и различных инициатив государств мира в области искусственного интеллекта.

Обсерватория претендует на роль наиболее влиятельной и всеобъемлющей международной площадки по обмену опытом в области политики регулирования искусственного интеллекта и является навигационной картой для политиков и исследователей в области искусственного интеллекта. Как инструмент формирования политики по реализации потенциала применения технологий на базе искусственного интеллекта для целей устойчивого развития, Обсерватория представляет собой информационный ресурс, содержащий предоставленную сотрудничающими с Обсерваторией государствами актуальную информацию в соответствии с форматом и стандартами ОЭСР.

На рисунке 1 отображено количество инициатив государств мира в области искусственного интеллекта, учитываемых Обсерваторией. Среди мировых лидеров – США (47 инициатив), Великобритания (46 инициатив), далее – Германия с 31 инициативой в области искусственного интеллекта.

В России по подсчетам Обсерватории в настоящий момент 11 инициатив в области искусственного интеллекта, среди которых, преимущественно, инициативы, изложенные в разделе 1 настоящего исследования.

Рис. 1. Количество инициатив государств мира в области искусственного интеллекта по версии Обсерватории Организации экономического сотрудничества и развития по политике в области искусственного интеллекта

Среди заслуживающих внимания проектов в области искусственного интеллекта США представляется возможным выделить систему Urbint – систему анализа данных, которая предсказывает и предотвращает угрозы для критически важной инфраструктуры и обслуживающих ее сотрудников, чтобы сделать сообщества более безопасными и устойчивыми. Используя искусственный интеллект, Urbint выявляет риски при строительстве, обслуживании, замене и защите инфраструктуры. Крупные коммунальные предприятия Северной Америки полагаются на Urbint в принятии решений по обеспечению безопасности с учетом рисков для защиты рабочих, инфраструктуры, общества и окружающей среды.

Кроме этого, технологии на базе искусственного интеллекта применяются Министерством энергетики США (DOE) совместно с Управлением научно-технической политики США (OSTP) при анализе наборов данных, содержащих информацию о влиянии вакцин от коронавирусной инфекции на симптомы и состояние пациентов.

Система проверки банковских платежей на основе искусственного интеллекта компании VISA

В августе 2020 года представители американской компании Visa заявили, что компанией на базе искусственного интеллекта была разработана система, которая способна автоматически одобрять или отклонять операции по платежным картам.

Согласно позиции президента по технологиям компании Visa Раджата Танежи (Rajat Taneja) в существующем механизме банковских переводов решения об одобрении или отклонении транзакций принимает банк, эмитировавший карту. Но банковские системы могут выйти из строя из-за стихийных бедствий, неисправного программного обеспечения или по другим причинам. В этой связи представители компании Visa заявили, что с октября 2020 года будет введена в эксплуатацию резервная автономная система Smarter Stand-In Processing (SSTIP), способная самостоятельно осуществлять проверку банковских переводов.

Система доступна банкам, которые подпишутся на соответствующую услугу компании Visa. Учитывая тот факт, что платежная система Visa International Service Association является одной из крупнейших платежных систем по количеству операций, совершаемых пользователями, данная инновация может существенным образом повлиять на процесс банковских переводов во всем мире.

По словам Раджата Танежи, различные сбои в работе банковских систем влияют на несколько миллионов транзакций по кредитным и дебетовым картам ежегодно, часто приводя к необоснованному отклонению операций со стороны банков-эмитентов платежных карт. Данная проблема создает неудобства для пользователей платежных систем, а коммерческие организации, в том числе банки, могут терять доходы.

Система SSTIP срабатывает автоматически после обнаружения отсутствия доступа к инфраструктуре конкретного банка. При этом технология SSTIP не использует заранее заданных алгоритмов, поскольку применяет более продвинутую модель глубинного обучения. Благодаря данной модели система может анализировать огромное количество сведений об активности держателей карт, в результате чего может самостоятельно определять возможность одобрения или отклонения соответствующей транзакции.

В частности, система SSTIP может автоматически определить «добросовестность» транзакции и разрешить (или запретить) перевод денежных средств на основе истории платежей и переводов держателя платежной карты, местоположения продавца по отношению к держателю платежной карты, времени совершения покупки и прочим наборам сведений.

Технология SSTIP исследует множество указанных наборов данных и самостоятельно создает масштабную систему анализа данных. В процессе тестирования технологии SSTIP ее решения на 95 % совпали с решениями кредитных организаций об одобрении или отклонении соответствующих переводов денежных средств. По данным Visa, технология SSTIP более чем вдвое превысила точность решений по сравнению с предыдущими методами анализа данных.

Что касается юридической квалификации решений системы SSTIP, например, запрета перевода денежных средств лица на основании полученных и обработанных системой данных, система SSTIP не обладает самостоятельной правоспособностью и ее действия квалифицируются как действия оператора платежной системы Visa.

Фактически, система квалифицируется в качестве вспомогательного для оператора платежной системы программного обеспечения, а у пользователя есть право обжаловать запрет транзакции любым из способов, предусмотренных правилами платежной системы или отраслевым законодательством государства, в юрисдикции которого зарегистрирована кредитная организация участника расчетов.

IBM прекратило разработку технологии распознавания лиц на фоне реформы полиции США

Учитывая неоднозначный этический аспект применения технологий на базе искусственного интеллекта в области обработки персональных данных, имеют место прецеденты отказа от использования соответствующих технологий.

В июне 2020 года генеральный директор компании IBM Арвинд Кришна заявил в письме Конгрессу США о том, что компания IBM прекращает деятельность по ведению технологии распознавания лиц.

В письме говорилось, что компания IBM выступает решительно против использования любой технологии, в том числе технологий распознавания лиц, в целях массового наблюдения, расового профилирования, нарушений основных прав и свобод человека или любых других целей, которые не соответствуют принципам деятельности компании IBM.

Актуальность вопроса была обусловлена законодательной инициативой Демократической партии США о реформировании полиции США.

Согласно принятым изменениям законодательства был предусмотрен запрет на использование сотрудниками полиции при исполнении ими полномочий удушающих приемов, предоставление органам прокурорского надзора финансирования в целях проведения исследований практики применения силы сотрудниками полиции в отношении граждан, а также необходимость классифицировать превышение полномочий со стороны сотрудников полиции как преступление «федерального уровня».

Американский телеканал CNBC отметил, что решение компании IBM принято на фоне смерти Джорджа Флойда. После этого события тема полицейской реформы и расового неравенства вышла в «центр общенационального диалога».

CNBC при этом утверждал, что при функционировании технологии распознавания лиц компании IBM и лежащего в основе технологии искусственного интеллекта отсутствовала объективность.

В подтверждение своей позиции CNBC приводит исследование Массачусетского технологического института (MIT), которым было подтверждено наличие «предвзятости» технологии распознавания лиц IBM по расовому признаку.

Инициативы по внедрению искусственного интеллекта в индустрии видеоигр

В настоящее время искусственный интеллект уже применяют для решения ряда задач при разработке видеоигр. Алгоритмы, отвечающие за моделирование действий соперника в игре, стали более приближенными к реальным. Такое правило активно применяется в боевых и стратегических играх, которые имеют сложную механику и предоставляют большое количество разнообразных возможностей для игровых агентов.

В докладе ООН 2019 года наряду с использованием ИИ для совершенствования оружия и робототехники, использование игрового ИИ для получения военного преимущества отмечается как один из серьезных рисков милитаризации технологии. С помощью систем военных игр, интегрированных с ИИ, становится возможно более эффективное тестирование и оптимизация военных планов. Например, интегрированная система военных игр с искусственным интеллектом может проводить конфронтацию человек-машина, что способствует обнаружению возможных проблем и слабых мест. Кроме того, такие системы военных игр могут также использоваться для развития межмашинной конфронтации и повышения эффективности оружия.

Игровой искусственный интеллект активно применяется для создания узкоспециализированных военных симуляторов. Военные симуляторы давно стали частью системы тренировок Вооруженных сил некоторых стран (США, Великобритания). При разработке подобных систем особую значимость приобретает правдоподобное поведение виртуальных солдат на поле боя.

DARPA (Управление перспективных исследований и разработок министерства обороны США) планирует использовать видеоигры для обучения ИИ, способного «разрабатывать выигрышные стратегии ведения боевых действий». В 2020 году на сайте федеральных закупок SAM.gov DARPA подробно описало Gamebreaker – проект, направленный на разработку программ искусственного интеллекта, которые могут автоматизировать баланс видеоигр и разрабатывать способы дестабилизации симуляции.

С помощью Gamebreaker DARPA надеется разработать систему искусственного интеллекта, которая сможет анализировать существующие видеоигры с открытым миром «для количественной оценки игрового баланса, определения параметров, которые существенно влияют на баланс, а также для изучения новых возможностей/тактик/модификаций правил, которые в большей степени дестабилизируют игру или симулятор». В документе поясняется, что подобные дестабилизирующие элементы могут включать в себя введение нового оружия, возможностей или изменение правил, и система ИИ должна быть в состоянии предсказать результат изменения.

Такие алгоритмы ИИ могут быть в дальнейшем применены для создания дисбаланса в военных играх, имитируемых Министерством обороны, которые используются для подготовки военных к реальным боевым действиям.

Также в 2020 году DARPA выпустило запрос по проекту «Создание сражения в машинном боевом обучении с тактикой противника» (COnstructive Machine-learning Battles with Adversary Tactics – COMBAT).

В рамках COMBAT должны быть разработаны алгоритмы ИИ для генерации моделей поведения соединений противника, которые будут атаковать и реагировать на действия «дружественных сил» в симуляционных экспериментах.

Целью проекта является моделирование того, как противник может развиваться от текущей к перспективной тактике, основываясь на действиях и ответных действиях дружественных сил. Идея состоит в том, чтобы быстро разработать несколько возможных направлений действий противника, найти оптимальные решения и обосновать рекомендации.

В будущих военных играх COMBAT будет поставлять ИИ-противника, который сможет бросить вызов участникам дружественных сил и стимулировать разработку новой тактики боя.

В российской армии также заинтересованы использовании подобных технологий для обучения личного состава. Наибольший интерес отечественного военного ведомства представляют шутеры в жанре Action, а также авиа- и танковые симуляторы.

На форуме «Армия-2019» был представлен стрелковый интерактивный комплекс «Хамелеон», в котором можно отработать элементы стрельбы и взаимодействие в группе. В «Хамелеон» заложена отработка сценариев боевых действий в незнакомых зданиях и на полигонах. Система позиционирует участника стрельбы и оружие с такой точностью, что ошибки, которые допускают обучаемые в «виртуальной игре», не позволяют им поражать цели. Очень многое в тренажёре приближено к реальному бою – коэффициент подобия реальным боевым действиям у него равен примерно 80%.

Нормативные правовые акты государств мира, регулирующие применение искусственного интеллекта и устанавливающие ответственность

Европейский союз

20 января 2021 года Европарламент принял Резолюцию по использованию искусственного интеллекта (ИИ) в военных и мирных целях. Резолюция имеет рекомендательный характер и в установленные сроки была передана в Европейскую Комиссию и Европейский Совет для принятия конкретных решений.

Предлагается создать единые стандарты разработки и использования ИИ, предусматривающие запрет на использование автономных систем вооружений, внедрить системы контроля и определить ответственных за действия систем с ИИ, разработать единые правила маркировки дипфейков и их использования. Европарламент относит к ИИ системы, которые демонстрируют интеллектуальное поведение для достижения определенных целей (анализируя окружающую среду и предпринимая действия с некоторой степенью автономности).

ИИ в военных целях должен отвечать минимальному набору требований: уметь различать представителей вооруженных сил между собой и на поле боя, распознавать, когда солдат сдается или прекращает борьбу, иметь возможность установить в качестве цели конкретный объект. Системы должны соответствовать принципам международного гуманитарного права, быть непредвзятыми и иметь способность до вступления в бой соразмерять применение силы и принимать меры предосторожности. Последствия применения ИИ в военных целях должны быть контролируемы и не должны причинять «ненужных» человеческих страданий.

ИИ в автономных системах вооружения. Значимый контроль над системой должен оставаться за человеком для точного определения ответственного за последствия принятых решений (например, при выборе цели атаки и принятия решения об атаке). Европарламент настаивает на необходимости разработки общеевропейской стратегии против автономных комплексов вооружения и полном запрете «роботов-убийц». В рамках программ Европейского фонда развития не должны финансироваться разработка или производство автономных систем вооружения без контроля человека.

Согласно рекомендациям, Европейский оборонный фонд и страны-участники программы «Постоянное структурированное сотрудничество по вопросам безопасности и обороны» должны стимулировать сотрудничество между государствами-членами ЕС и европейскими оборонными предприятиями для развития новых европейских оборонных возможностей в области ИИ.

При использовании ИИ в системе здравоохранения (роботизированная хирургия, интеллектуальные протезы, прогностическая медицина) личные данные пациентов должны быть надежно защищены, должен соблюдаться принцип равных возможностей для инвалидов.

Использование технологий ИИ в правосудии может помочь ускорить судебные разбирательства и принимать более рациональные решения. Окончательные судебные решения должны строго проверяться и приниматься людьми с соблюдением надлежащей правовой процедуры.

При использовании ИИ госорганами алгоритмы должны быть построены на принципах прозрачности, объяснимости и регуляторного надзора. Перед использованием ИИ-систем должна быть проведена оценка соответствия этих систем требованиям безопасности, прозрачности и отсутствия дискриминации. Если решение в отношении человека было принято ИИ, то человек должен быть проинформирован об этом и должен иметь право обратиться с требованием на пересмотр решения без использования систем с ИИ.

Дипфейки. Европарламент настаивает на необходимости маркировки дипфейков их создателями и введения жестких ограничений на использование таких материалов во время выборов. Отмечается необходимость проведения полномасштабных исследований по этой теме.

Иное. Для развития ИИ Европарламент рекомендует уменьшить зависимость государств-членов ЕС от иностранных данных. Также отмечается, что владение технологиями ИИ частными группами не должно приводить к оспариванию авторитета государства.

В резолюции отмечается необходимость оценки последствий моратория на использование системы распознавания лиц. По результатам данной оценки должно быть принято решение о введении моратория на использование этих систем в общественных местах до тех пор, пока технические стандарты технологии не будут приведены в соответствие с основными правам человека и не появятся надежные способы защиты от их неправомерного использования.

Европарламент призывает Европейскую Комиссию и государства-члены ЕС укреплять сотрудничество с иными странами и международными организациями для решения проблем, возникающих в связи с развитием ИИ, способствовать обмену опытом и исследованиями. Усилия должны быть направлены на установление общих стандартов и улучшение функциональной совместимости систем на базе ИИ.

В законодательной практике Европейского союза также интересен законопроект о гармонизации правил в области искусственного интеллекта (законопроект об искусственном интеллекте), размещенный на официальном сайте актов Европейского союза 21 апреля 2021 года. Согласно положениям законопроекта, в Европейском союзе возможен полный запрет использования определенных «имеющих высокую степень опасности» систем искусственного интеллекта. На неисполняющие запрет государства могут быть наложены санкции, а в отношении юридических лиц могут предусматриваться крупные штрафы.

В перечень таких систем могут входить алгоритмы для сканирования резюме, оценки кредитоспособности, помощи судьям в принятии решений, выдачи пособий по социальному обеспечению и заявлений о предоставлении убежища и виз.

Все технологии, о которых идет речь, предлагается поделить по степеням риска:

Недопустимо высокий риск: алгоритмы, которые манипулируют поведением и влияют на выбор в той или иной области. Например, система социального скоринга в Китае. Такие технологии в ЕС хотят запретить;

Высокий риск: например, ИИ-системы онлайн-биометрии; скоринг при найме сотрудников, при оценке результатов экзамена и в банках (например, при выдаче кредита). Сюда также относятся ИИ-разработки для предсказания преступлений и оценки показаний в суде, роботизированная хирургия и беспилотники. Их предлагается жестко контролировать и при необходимости ограничивать;

Умеренный риск: голосовые роботы и чат-боты. Их разрешат использовать при условии, что пользователи будут точно знать, что общаются с ИИ, а не с человеком;

Минимальный риск: всевозможные спам-фильтры и игровые сервисы, которые пока никак не будут регулировать.

Исключение сделают для ИИ-решений, которые применяют в вооруженных силах, для обеспечения безопасности, предотвращения терактов, а также поиска пропавших детей и преступников.

В настоящий момент, законопроект о гармонизации правил в области искусственного интеллекта (законопроект об искусственном интеллекте) находится на стадии согласования.

Законодательство о беспилотных автомобилях Французской Республики

Согласно заявлению государственного секретаря (министра-делегата) транспорта при министре комплексных экологических преобразований Французская Республика стала первой страной в Европе, адаптировавшей законодательство в области правил дорожного движения к появлению автоматизированных транспортных средств. Опубликованный 1 июля 2021 года соответствующий указ основан на трех основополагающих принципах: безопасность, прогрессивность и преемственность (на основании Национальной стратегия развития автономных транспортных средств, опубликованной в мае 2018 года).

В соответствии с внесенными изменениями в положения Дорожного кодекса и Транспортного кодекса разрешается движение по дорогам Франции транспортных средств, оборудованных так называемой «автоматизированной системой вождения». Изменения законодательства вступают в силу с сентября 2022 года.

Кроме этого, изменяется режим уголовной ответственности, который позволяет водителю освободиться от ответственности в случае ДТП при условии, если автоматизированная система вождения осуществляла работу в соответствии с требованиями нормативов. Также определены условия взаимодействия между водителем и автоматизированной системой вождения, экстренные маневры, которые система должна выполнять автоматически, а также уровень внимания, ожидаемого от водителя при активированной автоматизированной системе вождения.

Возможность применения французского опыта регулирования беспилотных автомобилей, в частности, в рамках реализации комплекса мероприятий по тестированию и поэтапному вводу в эксплуатацию на дорогах общего пользования высокоавтоматизированных транспортных средств (ВАТС), подробно рассмотрена в заключении настоящего исследования. При этом в аргументации особое внимание уделено квалификации искусственного интеллекта как субъекта права, т.е. того, кто обладает способностью осуществлять субъективные права и нести юридические обязанности.

Юридическая квалификация вины при ДТП с участием беспилотного транспортного средства: прецедент компании UBER

В 2018 году в американском штате Аризона произошло ДТП с участием беспилотного автомобиля, принадлежавшего компании UBER. В результате ДТП 49-летняя жительница штата Аризона скончалась от полученных травм, в связи с чем встал вопрос о квалификации вины и привлечении виновных к ответственности.

Прецедент интересен тем, что ДТП стало первым зарегистрированным случаем смерти с участием беспилотного автомобиля, в результате чего компания Uber прекратила тестирование технологии в Аризоне.

Что касается юридической квалификации деяния, в 2019 году было принято решение о невиновности компании Uber как юридического лица в совершенном деянии ввиду подозрений в халатности т.н. «резервного водителя», присутствовавшего в момент ДТП в салоне транспортного средства.

Данная позиция нашла свое подтверждение спустя год, осенью 2020 года, вследствие чего резервному водителю было предъявлено обвинение в убийстве по неосторожности. В результате длительных расследований, проведенных полицией и Национальным советом по транспортной безопасности США (NTSB), выяснилось, что в качестве ключевого фактора ДТП выступила ошибка резервного водителя, поскольку резервный водитель имел возможность взять на себя управление автомобилем в экстренной ситуации.

На видеозаписи, опубликованной полицией, резервный водитель смотрел в сторону от дороги в течение нескольких секунд непосредственно перед ДТП, в то время как автомобиль двигался со скоростью 39 миль в час (~63 км/ч).

Базовые тезисы Общества 5.0 в Японии

В начале 2019 года правительство и национальная торговая ассоциация Японии опубликовали базовые тезисы Общества 5.0. Устойчивость, вовлеченность и открытость являются тремя основными принципами, на которых основана концепция Общество 5.0.

В концепции Общества 5.0 рассматриваются информационные решения, которые должны быть внедрены в целях развития для цифровизации общества, в различных сегментах жизни населения: здравоохранение, мобильность, инфраструктура, финансовые технологии.

Тремя основными принципами тезисов являются устойчивость, вовлеченность и открытость. При этом в самой концепции рассматриваются информационные решения, которые должны быть внедрены в целях развития для цифровизации общества, в различных сегментах жизни населения, среди которых необходимо выделить здравоохранение: системы сбора и обмена медицинскими данными, системы удаленной диагностики, применение искусственного интеллекта и робототехники.

Возможность применения данного опыта в Российской Федерации обусловлена отсутствием нормативного регулирования использования информационных технологий в медицинских целях. Кроме этого, возможно изучение положений японской концепции Общества 5.0 в части их применения в инфраструктуре, а именно: внедрение сенсоров, искусственного интеллекта и элементов робототехники в процессы отечественной промышленности.

Законодательный опыт Республики Корея в области искусственного интеллекта

В апреле 2019 года в Республике Корея была опубликована Национальная стратегия кибербезопасности. Положения Стратегии направлены на создание свободного и безопасного киберпространства для поддержки национальной безопасности, содействовать экономическому процветанию Республики Корея и способствовать международному миру в виртуальном пространстве.

Стратегия подробно описывает план улучшения возможностей реагирования на кибератаки. План представляет собой всестороннее развитие систем, работа которых направлена на обнаружение, устранение и анализ киберугроз, при помощи технологий искусственного интеллекта. Выполнение этого плана должно производиться на основе доверия между людьми, предприятиями, правительством, частным и военным секторами. Совместная работа предполагает обмен информацией как на национальном, так и на международном уровне.

Для укрепления правовой базы кибербезопасности стратегия предполагает разработку и принятие законов, согласно которым будет осуществляться реагирование на угрозы, анализ и обмен информацией и использование новых технологий, таких как искусственных интеллект.

Законодательный опыт Республики Корея также примечателен тем, что в данном государстве впервые был принят закон о регулировании искусственного интеллекта, роботов и объектов робототехники. В 2008 году вступил в силу Закон «О содействии развитию и распространению умных роботов». Согласно статье 2 указанного Закона термин «умный робот» означает механическое устройство, которое способно воспринимать окружающую среду, распознавать обстоятельства, в которых оно функционирует и способно целенаправленно передвигаться самостоятельным образом.

Эффект от внедрения этого закона в период 2010-2014 годы оценили в размере более $4 млрд. Инвестиции в рынок робототехники вызвали также рост на рынках добычи и обработки металлов, в нефтехимической отрасли, в сфере услуг и т.п. Совокупный эффект по оценкам исследователей составил около $32 млрд.

Опыт США по использованию искусственного интеллекта в судебной системе

В сентябре 2020 года в Нью-Йорке возобновился приостановленный из-за пандемии коронавирусной инфекции эксперимент по использованию технологий на базе искусственного интеллекта в деятельности судебных органов.

Суть внедрения алгоритма заключается в оценке фактов, связанных с осужденными вне контекста совершенного правонарушения. На основании известных данных алгоритм дает судьям рекомендации: отпустить обвиняемого под залог или заключить его под стражу.

В перечень информации, анализируемой алгоритмом, входит: персональных данные граждан, находящихся под следствием, их возраст, пол, место жительства, расовая, этническая принадлежность, а также информация о преступлениях, в совершении которых они подозревались ранее. Также алгоритм получал косвенные детали, при анализе которых можно было сделать вывод: придет человек на суд или попробует скрыться. К примеру, добровольно ли человек сообщал свой номер телефона и адрес полицейским при задержании. Согласно анализу алгоритма граждане, которые делали это добровольно, чаще являлись в суд самостоятельно.

Таким образом создатели алгоритма реализовали основное предназначение системы – существенно сократить предвзятость судей при принятии ими решений и уменьшить зависимость принятия таких решений от расовой и этнической принадлежности подозреваемых и обвиняемых в совершении преступления.

Заключение. Возможность применения опыта государств и межгосударственных объединений в регулировании применения искусственного интеллекта в Российской Федерации

Как показали результаты проведенного исследования, законодательство Российской Федерации является одним из ведущих по степени своего развития как ввиду совокупности действующих отраслевых нормативных правовых актов, так и с учетом проектов соответствующих правовых актов, разработанных органами власти и готовящихся к принятию.

В то же время, ряд законодательных и правоприменительных инициатив государств мира возможен к потенциальному применению в Российской Федерации.

Представляется возможным рассмотреть опыт применения концепции Общества 5.0 Японии в части развития цифровизации общества в различных сегментах жизни населения: здравоохранение, мобильность, инфраструктура, финансовые технологии. В Российской Федерации данный опыт применим прежде всего из-за отсутствия нормативного регулирования использования информационных технологий в медицинских целях. Кроме этого, возможно изучение положений концепции Общества 5.0 в части их применения в инфраструктуре, а именно: внедрение сенсоров, искусственного интеллекта и элементов робототехники в процессы отечественной промышленности.

Интересен опыт применения компанией VISA системы SSTIP, способной автоматически одобрять или отклонять операции по платежным картам. Технология SSTIP не использует заранее заданных алгоритмов, поскольку применяет более продвинутую модель глубинного обучения. Благодаря данной модели система может анализировать огромное количество сведений об активности держателей карт, в результате чего может самостоятельно определять возможность одобрения или отклонения соответствующей транзакции.

В частности, система SSTIP может автоматически определить «добросовестность» транзакции и разрешить (или запретить) перевод денежных средств на основе истории платежей и переводов держателя платежной карты, местоположения продавца по отношению к держателю платежной карты, времени совершения покупки и прочим наборам сведений. Реализация данного функционала возможна к применению в рамках работы отечественной платежной системы «Мир».

В сфере использования искусственного интеллекта в игровой индустрии возможен к применению опыт американского управления DARPA, которое планирует использовать видеоигры для обучения ИИ, способного разрабатывать выигрышные стратегии ведения боевых действий.

Игровой искусственный интеллект активно применяется для создания узкоспециализированных военных симуляторов. Военные симуляторы давно стали частью системы тренировок Вооруженных сил некоторых стран (США, Великобритания). При разработке подобных систем особую значимость приобретает правдоподобное поведение виртуальных солдат на поле боя.

Возможен к применению в России законодательный опыт Республики Корея, поскольку в данном государстве впервые был принят закон о регулировании искусственного интеллекта, роботов и объектов робототехники (в 2008 году вступил в силу Закон «О содействии развитию и распространению умных роботов»). Ввиду особенностей системы правоотношений, регулирующих применение искусственного интеллекта, а также их комплексного характера и широких перспектив для развития и применения, следует рассмотреть возможность издания соответствующего федерального закона.

В рамках реализации комплекса мероприятий по тестированию и поэтапному вводу в эксплуатацию на дорогах общего пользования высокоавтоматизированных транспортных средств (ВАТС) интересен опыт США по квалификации в качестве виновника ДТП с участием беспилотного автомобиля водителя, находящегося в момент аварии салоне (на момент написания настоящего исследования ему предъявлено обвинение).

В то же время, во Франции в рамках внесения изменений в положения Дорожного кодекса и Транспортного кодекса, согласно которым разрешается движение по дорогам Франции транспортных средств, оборудованных так называемой «автоматизированной системой вождения», имеется обратный, по сравнению с США, пример законодательного регулирования ДТП с участием беспилотного автомобиля.

Во Франции существенным образом изменяется правовой режим уголовной ответственности, который позволяет водителю освободиться от ответственности в случае ДТП при условии, если автоматизированная система вождения осуществляла работу в соответствии с требованиями нормативов.

Данный опыт регулирования необходимо рассмотреть в контексте действующей в Российской Федерации правовой системы.

Согласно пункту 5 Указа Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» искусственный интеллект – это комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека.

В то же время, с точки зрения положений гражданского законодательства искусственный интеллект, преимущественно, квалифицируется в контексте части 4 Гражданского кодекса Российской Федерации (далее – ГК РФ) как программа для электронных вычислительных машин, изобретение или ноу-хау, то есть как результат интеллектуальной деятельности (статья 1225 ГК РФ).

В подтверждение данной позиции приводим позицию кандидата юридических наук, доцента кафедры интеллектуальных прав Университета имени О.Е. Кутафина (МГЮА) Д.В. Огородова, который полагает, что в действительности законодательство об искусственном интеллекте существует уже достаточно давно. Так, четвертая часть Гражданского кодекса охватывает сферу искусственного интеллекта:

технические решения следует квалифицировать как изобретения, дизайн роботов как промышленный образец;

искусственные нейронные сети, как правило, следует квалифицировать в качестве программ для ЭВМ;

охрану алгоритмов следует квалифицировать в качестве ноу-хау;

результаты «машинного творчества»: автором/правообладателем не может считаться программное обеспечение (алгоритм)1Огородов Д.В. Правовые основы систем искусственного интеллекта (робототехники): подход кафедры интеллектуальных прав МГЮА, цитируемый В.Б. Нагродской. См.: Нагродская В.Б. Новые технологии (блокчейн / искусственный интеллект) на службе права: научно-методическое пособие / под ред. Л.А. Новоселовой. М.: Проспект, 2019.

Учитывая данные обстоятельства, при рассмотрении возможности ограничения уголовной ответственности физического лица при ДТП, произошедшего с участием искусственного интеллекта (по аналогии с опытом Франции), потребуется фундаментальный пересмотр положений законодательства в контексте квалификации искусственного интеллекта как субъекта и объекта права, а также квалификации деяний, совершаемых искусственным интеллектом как субъектом права.

В случае если мы воспринимаем искусственный интеллект как субъект права, т.е. того, кто обладает способностью осуществлять субъективные права и нести юридические обязанности, необходимо определиться, кто все же будет нести ответственность за действия такого субъекта. Сам ли искусственный интеллект? Или же лицо, кто запрограммировал искусственный интеллект? В этом смысле можно отметить несколько позиций:

1) ответственность производителя (за качество товара);

2) правовой режим или правовой статус роботов как квазиагентов (квазипосредников) или квазисубъектов права;

3) ограничение ответственности;

4) применение мер ответственности к юридическим лицам2Архипов В.В., Наумов В.Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. 2017. № 5. С. 159.

  • 1
    Огородов Д.В. Правовые основы систем искусственного интеллекта (робототехники): подход кафедры интеллектуальных прав МГЮА, цитируемый В.Б. Нагродской. См.: Нагродская В.Б. Новые технологии (блокчейн / искусственный интеллект) на службе права: научно-методическое пособие / под ред. Л.А. Новоселовой. М.: Проспект, 2019
  • 2
    Архипов В.В., Наумов В.Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. 2017. № 5. С. 159
Поделиться