Европарламент принял резолюцию по использованию искусственного интеллекта в военных и мирных целях

20 января 2021 года Европарламент принял резолюцию по использованию искусственного интеллекта (ИИ) в военных и мирных целях. Резолюция имеет рекомендательный характер, будет передана в Европейскую Комиссию и Европейский Совет для принятия конкретных решений (единые стандарты разработки и использования ИИ1В резолюции ИИ отнесен к системам, которые демонстрируют интеллектуальное поведение для достижения определенных целей (анализируя окружающую среду и предпринимая действия с некоторой степенью автономности., запрет на использование автономных систем вооружений, определение систем контроля и ответственных за действия систем с ИИ, единые правила маркировки и использования дипфейков, решение о моратории на использование системы распознавания лиц).

ИИ, используемый в военных целях, должен отвечать минимальному набору требований: уметь различать комбатантов между собой, комбатантов и не комбатантов на поле боя, распознавать, когда комбатант сдается или прекращает борьбу, иметь возможность установить в качестве цели конкретный объект, последствия его применения должны быть контролируемы, не причинять ненужных человеческих страданий, не быть предвзятым или обучаться на намеренно неполных данных, соблюдать принципы международного гуманитарного права, иметь способность соразмерять применение силы и принимать меры предосторожности до вступления в бой.

При использовании ИИ в автономных системах вооружения значимый контроль над системой должен оставаться за человеком для точного определения ответственного за последствия принятых решений, например, при выборе цели атаки и принятия решения об атаке. Согласно резолюции, в рамках программ Европейского фонда развития не должны финансироваться разработка или производство автономных систем вооружения без такого контроля. Европарламент настаивает на необходимости общеевропейской стратегии против автономных комплексов вооружения и полном запрете «роботов-убийц».

Европейский оборонный фонд и участники программы «Постоянное структурированное сотрудничество по вопросам безопасности и обороны»2Постоянное структурированное сотрудничество по вопросам безопасности и обороны (PESCO) — программа государств-членов ЕС, направленная на более тесное сотрудничество в сфере безопасности и обороны, в рамках Глобальной стратегии ЕС по внешней политике и политике безопасности. должны стимулировать сотрудничество между государствами-членами ЕС и европейскими оборонными предприятиями для развития новых европейских оборонных возможностей в области ИИ.

При использовании ИИ в системе здравоохранения (роботизированная хирургия, интеллектуальные протезы, прогностическая медицина) личные данные пациентов должны быть надежно защищены, должен соблюдаться принцип равных возможностей3«Обеспечение равных возможностей» означает процесс, благодаря которому различные системы общества и окружающей среды доступны всем, особенно инвалидам. «Стандартные правила обеспечения равных возможностей для инвалидов» были приняты Генеральной Ассамблеей ООН 20 декабря 1993 года (резолюция 48/96). un.org/standard-rules-on-the-equalization-of-opportunities-for-persons-with-disabilities.html.

Использование технологий ИИ в правосудии может помочь ускорить судебные разбирательства и принимать более рациональные решения. Окончательные судебные решения должны строго проверяться и приниматься людьми с соблюдением надлежащей правовой процедуры.

При использовании ИИ госорганами алгоритмы должны быть построены на принципах прозрачности, объяснимости и регуляторного надзора. Перед использованием ИИ-систем должна быть проведена оценка соответствия этих систем требованиям безопасности, прозрачности и отсутствия дискриминации. Если решение в отношении человека было принято системой с ИИ, то он должен быть проинформирован об этом, а также должен иметь право обратиться с требованием на пересмотр решения без использования систем с ИИ.

Европарламент настаивает на необходимости маркировки дипфейков со стороны их создателей с определением жестких ограничений на использование таких материалов во время выборов. В резолюции также отмечается необходимость проведения полномасштабных исследований по этой теме.

Государства-члены ЕС должны уменьшить зависимость от иностранных данных для развития ИИ. Владение технологиями ИИ частными группами не должно приводить к оспариванию авторитета государства, особенно, если эти частные группы принадлежат стране за пределами ЕС.

В резолюции отмечается необходимость оценки последствий моратория на использование системы распознавания лиц. По результатам должно быть принято решение о моратории на использование этих систем в общественных местах до тех пор, пока технические стандарты не будут в полной мере соответствовать основным правам человека, и пока полученные результаты будут непредвзятыми и недискриминационными и появятся надежные способы защиты от неправомерного использования.

Европарламент призывает Европейскую Комиссию и государства-члены ЕС укреплять сотрудничество с иными странами и международными организациями, развивать диалог для решения проблем, возникающих в связи с развитием ИИ, способствовать обмену опытом и исследованиями. Эти усилия должны быть направлены на установление общих стандартов и улучшение функциональной совместимости систем на базе ИИ.

  • 1
    В резолюции ИИ отнесен к системам, которые демонстрируют интеллектуальное поведение для достижения определенных целей (анализируя окружающую среду и предпринимая действия с некоторой степенью автономности.
  • 2
    Постоянное структурированное сотрудничество по вопросам безопасности и обороны (PESCO) — программа государств-членов ЕС, направленная на более тесное сотрудничество в сфере безопасности и обороны, в рамках Глобальной стратегии ЕС по внешней политике и политике безопасности.
  • 3
    «Обеспечение равных возможностей» означает процесс, благодаря которому различные системы общества и окружающей среды доступны всем, особенно инвалидам. «Стандартные правила обеспечения равных возможностей для инвалидов» были приняты Генеральной Ассамблеей ООН 20 декабря 1993 года (резолюция 48/96). un.org/standard-rules-on-the-equalization-of-opportunities-for-persons-with-disabilities.html
Поделиться