Маркировка контента, сгенерированного искусственным интеллектом. Обзор

Время на прочтение: 4 мин

Маркировка контента, созданного искусственным интеллектом — это стратегия снижения рисков, направленная на использование видимых предупреждений о материалах, сгенерированных ИИ. В основе необходимости маркировки такого контента лежат два концептуальных различия. Первое основано на процессе создания контента и второе на предупреждении последствий.

Целевая функция маркировки технических процессов при создании и/или изменении контента заключается в информировании пользователей о способе создания/изменения контента и сохранении нейтрального отношения к потенциальным последствиям для пользователя и общества. В этом случае система маркировки идентифицирует и помечает любой контент, созданный или отредактированный с помощью ИИ без привязки к формату (фото, видео, аудио), тематике (политика, искусство, наука) или наличию механизмов влияния на убеждения и поведение пользователей.

Целевая функция маркировки, ориентированной на последствия, заключается в предотвращении вреда от контента. В этом случае маркировка направлена на вероятность введения в заблуждение определенного контента. Для этого необходима интеграция инструментов обнаружения ИИ-контента и систем выявления дезинформации.

Анализ научных исследований в этой области показал значительный интерес со стороны академического сообщества. При отсутствии прямого подтверждения эффективности маркировки, результаты научных работ показывают снижение доверия и готовности к распространению пользователями контента с предупреждающими метками.

Таким образом, это свидетельствует о повышении осознанного потребления контента при наличии таких меток.

Вместе с этим, для внедрения политик и инструментов маркировки необходима всесторонняя оценка различных факторов. Например, увеличение дезинформации, смешение фактов о текущих событиях, сложность распознавания сгенерированного контента пользователем усугубляются развитием и совершенствованием технологий. Один из методов решения этой проблемы заключается в прозрачной и четкой маркировке материалов, сгенерированных ИИ с помощью текстовых и/или графических элементов, наложенных на медиаконтент или расположенных рядом.

Однако существует неопределенность в терминологии для обозначения такого контента и типов необходимой маркировки. Это связано с неоднородностью контента, сгенерированного ИИ. Разные типы материалов отличаются по степени и характеру алгоритмического вмешательства и по потенциальным последствиям для общества. Уровень знаний и осведомленности об ИИ также значительно вариативен. Это требует разработки понятных широкой аудитории конкретных обозначений.

Кроме этого, эффективность маркировки сгенерированного ИИ контента может снижаться за счет формирования общего недоверия к медиа. В связи с этим важное значение имеют исследования универсальности меток для разных контекстов и оценка их эффективности. Для решения этих вопросов целесообразно провести идентификацию подмножества контента, подлежащего маркировке и определить, какие типы контента подпадают под маркировку и какие нет.

Результаты исследования китайской группы ученых показали эффективность маркировки в качестве инструмента регулирования ИИ. Однако наличие меток не оказывает влияния на восприятие пользователем точности и достоверности информации и на намерение поделиться. Вместе с этим, согласно исследованию «Маркировка синтетического контента: восприятие пользователями предупреждающих меток для контента, созданного искусственным интеллектом в социальных сетях» различные метки влияют на восприятие информации и уровень доверия к платформе и оценку сложности разграничения между достоверной информацией, сгенерированной ИИ и вводящей в заблуждение информацией, сгенерированной ИИ.

Нормативное регулирование введения маркировки направлено на предотвращение мошенничества и обмана, распространения дезинформации, выявление дипфейков и обнаружение сгенерированного контента, выдаваемого за созданный человеком.

В частности, в различных странах предложены разные формы обязательной маркировки контента.

В Европейском союзе Закон об ИИ от марта 2024 года требует от поставщиков систем ИИ, включая создателей синтетического аудио-, видео-, текстового контента, эффективных, совместимых и надежных технических решений с учетом уникальных характеристик каждого типа контента и затрат на маркировку. Эти технические решения включают водяные знаки, теги метаданных, криптографические методы проверки происхождения и подлинности, механизмы регистрации и цифровые отпечатки.

В Великобритании Законопроект об искусственном интеллекте, внесенный в мае 2024 года, но не принятый Парламентом, направлен на установление правил для ИИ. В Законопроект включены положения для поставщиков продуктов и услуг на базе ИИ о четкой и недвусмысленной маркировке, например, о вреде для здоровья и др.

В Китае «Положение об углубленном синтезе управления информационными услугами в сети Интернет», принятое 10.01.2023, обязывает поставщиков услуг, использующих технологию «глубокого синтеза» добавлять видимый водяной знак к созданному контенту. Новые правила для стандартизации маркировки сгенерированного ИИ контента были опубликованы Управлением кибербезопасности Китая в сентябре 2024 года под названием «Проект мер» (далее – Проект). Важно отметить, что Проект включает следующее:

широкое описание поставщиков услуг, которое включает поставщиков рекомендательных алгоритмов, поставщиков услуг по глубокому синтезу и поставщиков услуг по генеративному ИИ. При этом, Проект не распространяется на разработку и использование технологий ИИ для создания контента для внутренних целей, то есть, если он не распространяется на широкую общественность;

значительный объем обязательств для поставщиков. Например, в пользовательском соглашении поставщики должны указывать способ, стиль и другие характеристики маркировки. Если пользователь запрашивает контент без изначальной маркировки, то обязательства по маркировке переходят к нему с указанием сроков ее размещения в пользовательском соглашении;

необходимость соответствия требованиям и правовым нормам. Все поставщики услуг должны соблюдать национальные стандарты маркировки. За нарушения с тяжелыми последствиями предусмотрено наказание в соответствии с законодательством.

Проект сопровождается национальным стандартом по маркировке. Это подтверждает серьезные усилия Китая по управлению сгенерированным ИИ контентом для нивелирования рисков безопасности, связанных с дезинформацией и решения проблем доверия к контенту.

В США существует общая федеральная политика в отношении маркировки контента и политики отдельных штатов. Например, к первой относится Указ Д. Байдена от 2023 года об ИИ, который предписывает Министерству торговли создать руководящие принципы для маркировки контента, созданного ИИ. Компании, занятые в сфере ИИ, должны использовать эти руководящие принципы для разработки маркировки и последующего одобрения федеральными агентствами.

В сентябре 2024 года Управление по вопросам управления и бюджета США опубликовало Меморандум «Продвижение ответственного приобретения искусственного интеллекта в правительстве». Согласно Меморандуму федеральные агентства, приобретающие программы и сервисы, должны требовать от поставщиков внедрения водяных знаков, криптографических метаданных или других технологических решений для идентификации контента, созданного ИИ, включая привязку к модели и возможность отслеживания его происхождения и изменений.

В то же время, к политике штатов относится Закон штата Калифорния о прозрачности ИИ (принят в сентябре 2024 года, вступает в силу с 1 января 2026 года). В соответствии с этим законом поставщики ИИ – производители генеративных систем ИИ, которые имеют более 1 млн. пользователей в месяц – обязаны предоставлять следующие возможности для обнаружения ИИ:

инструмент для обнаружения контента, созданного и/или измененного с помощью ИИ;

инструмент добавления пользователем четкой видимой постоянной метки к контенту, сгенерированному ИИ;

наличие скрытой метки с информацией о поставщике, версии системы ИИ, дате и времени создания/изменения и уникального идентификатора.

В случае отсутствия у поставщика указанных инструментов он несет гражданско-правовую ответственность в виде штрафа в размере пяти тыс. долл.

Так, в 2023 году сенатор от штата Небраска внес Законопроект о рекомендациях для контента, сгенерированного ИИ. Законопроект сосредоточен на двух ключевых аспектах: требованиях к водяным знакам и необходимости их стандартизации. И Закон штата Колорадо об искусственном интеллекте требует от физических и юридических лиц маркировать контент, созданный ИИ или раскрывать информацию об использовании ИИ в определенных обстоятельствах.

Разработкой единых стандартов маркировки в США занимается Коалиция за прозрачность происхождения и подлинность контента (C2PA) в составе ключевых технологических и медиакомпаний.

Выводы

Таким образом, при определении политик и методов маркировки необходимо определить следующее:

цель маркировки;

типы контента, подлежащие маркировке;

эффективность маркировки в разных контекстах;

реакции пользователей на маркированный и немаркированный контент;

стратегию и принципы стандартизации.