Маркировка ИИ-контента. Социологический обзор

Время на прочтение: 4 мин

Увеличение потоков информации с каждым годом усложняет процессы её восприятия, что создаёт необходимость в дифференциации и фильтрации контента. Одним из инструментов по решению этих задач является маркировка – процесс присвоения меток, знаков, тегов, токенов или категорий медиа-объектам в цифровом пространстве.

На сегодняшний день одной из обсуждаемых тем в экспертном сообществе является маркировка контента, сгенерированного искусственным интеллектом. Дипфейки и дезинформация становятся всё менее отличимыми со смысловой и визуальной точек зрения, что требует введения технических и правовых мер на распространение такого контента в целях обеспечения прозрачности и безопасности цифрового пространства.

Маркировка контента, созданного при помощи ИИ, призвана предупредить пользователей об искусственном происхождении просматриваемых материалов, снизить количество манипуляций с использованием дезинформации и дипфейков.

Таким образом, маркировка помогает критически оценивать источники информации, защитить себя и свою семью от деструктивного контента, систематизировать и при необходимости отфильтровывать поступающую информацию.

В этой связи важное значение приобретает отношение самих граждан к вопросам, связанным с маркировкой сгенерированной информации. Социологические исследования демонстрируют позитивное восприятие маркировки как меры регулирования цифрового пространства, но в то же время обозначают вызовы, связанные c её реализацией.

Согласно опросам большинство российских пользователей (76%) сети Интернет еженедельно сталкиваются с контентом, созданным при помощи ИИ. Наиболее часто респонденты сталкиваются с нейроконтентом в виде изображений/фотографий (74%) и коротких видеороликов (44%).

Сгенерированный контент, с которым пользователи сталкиваются чаще всего

(закрытый вопрос, множественный ответ, % от пользователей,

которые сталкивались с контентом, сгенерированным ИИ)

Признаки, по которым пользователи чаще всего распознают сгенерированный контент

(закрытый вопрос, множественный ответ, % от пользователей, которые

сталкивались с контентом, сгенерированным ИИ)

Более половины российских пользователей (57%) сталкивались с промаркированным сгенерированным контентом. При этом 93% из них утверждают, что такая маркировка выполнила свою функцию и её было достаточно, чтобы понять, что перед ними контент, созданный с помощью нейросети.

Большинство российских граждан (81%) считают важной тему маркировки контента, созданного искусственным интеллектом. При этом 73% населения разделяет позицию о необходимости маркировки продуктов, изображений и решений, созданных ИИ. Кроме того, более половины россиян (54%) считают, что дипфейки необходимо регулировать на законодательном уровне.

Важно, что мнения россиян разных возрастов по вопросу маркировки сгенерированного контента распределяются практически идентично в пределах погрешности и отличаются лишь уровнем осведомленности тематикой ИИ. Против маркировки ИИ-контента выступают только 17% граждан.

А как Вы думаете, необходимо или нет маркировать особым образом продукты, изображения и решения, созданные искусственным интеллектом или при его помощи?

(закрытый вопрос, один ответ, % от всех опрошенных)

Еще больший уровень поддержки предложению маркировки сгенерированного контента выражают граждане, уже имеющие опыт использования нейросетей. Подавляющее большинство (87%) респондентов данной категории поддерживают инициативу маркировки ИИ-контента, считая, что это сделает использование данной технологии более контролируемым.

Интересно, что риски от свободного распространения сгенерированного контента без указания на искусственный характер его происхождения вызывает озабоченность в ряде стран.

Так, абсолютное большинство американцев (94%) считает, что искусственное происхождение любого контента должно быть раскрыто, и общество имеет право знать о применении контент-мейкерами генеративных технологий.

Большинство жителей ЕС (82%) так же поддерживает соответствующие информационные метки для сгенерированного контента.

Вместе с тем по вопросу ответственности за раскрытие информации об искусственном происхождении контента на сегодняшний день в мире нет однозначного общественного мнения. По результатам опросов 33% американцев заявляют, что ответственность за это должны нести создатели контента, 29% считают, что ответственность лежит на социальной сети, ещё 17%, что ответственность должны нести все: производители, социальные сети, платформы управляющие социальными медиа и т.д.

Мнение россиян по данному вопросу так же разделилось. Почти в равной степени граждане России считают, что ответственность за достоверность информации, созданной при помощи ИИ, должны нести создатели и распространители сгенерированного контента, платформы его размещения и разработчики ИИ-инструментов.

Мнение об ответственности за достоверность информации,

созданной при помощи ИИ

(закрытый вопрос, множественный ответ, % от всех опрошенных)

Вместе с тем результаты исследований показывают, что стратегия раскрытия сведений об искусственном происхождении контента оказывает незначительное влияние на убедительность его содержания в восприятии людей.

Так, согласно опросу и эксперименту (1601 участник) Стэнфордского университета маркировка сгенерированного контента политического характера с элементами манипуляции практически не снизила его убедительность. На подавляющее большинство (94,6%) маркировка не оказала существенного влияния и не изменила их отношения к воспринятой информации, мнения о точности сообщений или намерения поделиться материалом с друзьями. Контент с меткой «сделано ИИ» влиял на мнение и реакции участников так же сильно, как и немаркированный контент или материалы с меткой «сделано человеком».

Данный вывод свидетельствует о том, что хотя маркировка сгенерированного контента повышает прозрачность цифрового пространства и распространяемой информации, она вряд ли существенно повлияет на убедительность размеченного контента. Это подчёркивает необходимость дополнительных стратегий для решения проблем, связанных с информацией, созданной ИИ.

Маркировка информирует и предупреждает пользователей об искусственном происхождении контента, но не всегда снижает его влияние. Полноценная защита российского общества от дезинформации, дипфейков и манипуляций должна быть обеспечена комплексом правовых, информационных и технических решений.

Таким образом, маркировка является лишь первой мерой в общей стратегии нивелирования рисков и угроз, исходящих от генеративного ИИ, за которой должны следовать следующие шаги в обеспечении информационной безопасности граждан:

— установление юридической ответственности за распространение дезинформации и манипулятивного контента, созданных при помощи ИИ;

— разработка и совершенствование детекторов распознавания дипфейков и дезинформации;

— создание и внедрение инструментов обнаружения сгенерированного контента на темы, используемые для политических манипуляций, подрыва безопасности российского общества и государства;

— сотрудничество государства с IT- и медиа-компаниями для интеграции инструментов выявления сгенерированного манипулятивного контента и обнаружения источников его происхождения;

— повышение медиаграмотности и критического мышления граждан, обучение навыкам фактчекинга, проведение соответствующих информационных кампаний;

— уделение особого государственного внимания к информированию уязвимых социальных групп (дети, пенсионеры, родственники военнослужащих и др.);

— создание онлайн-платформ с возможностью самостоятельной проверки информации на наличие следов ИИ-обработки;

— поддержка фактчекинговых организаций;

— совершенствование системы информационного противоборства, оперативного опровержения фейков и доведения до общества достоверной информации;

— другие правовые, информационные и технические меры в общей системе обеспечения информационной безопасности граждан.