ИИ научился формировать политические взгляды так же эффективно, как человек

Время на прочтение: 3 мин

Поскольку генеративный ИИ позволяет создавать и распространять информацию в значительных масштабах с большой скоростью, важно понимать, как люди воспринимают контент, созданный ИИ. Хотя применение ИИ в политике может иметь позитивный эффект – снизить уровень конспирологических теорий и способствовать компромиссам, развитие его возможностей вызывает опасения по поводу негативных применений, таких как операции влияния с использованием ИИ, кампании дезинформации и другие обманные политические действия.

Так, небольшая группа людей или ботов может наполнить платформы вводящим в заблуждение контентом, созданным ИИ, манипулируя воспринимаемой общественной поддержкой и искажая демократический дискурс. Ситуацию осложняет то, что людям трудно отличить контент, созданный ИИ, от контента, созданного человеком. Таким образом, перспектива массового притока контента, созданного ИИ, может подорвать доверие к информационной экосистеме.

Одним из предлагаемых политических решений является требование обязательной идентификации контента, созданного ИИ, с помощью метки авторства. Например, Закон Европейского союза об ИИ требует, чтобы те, кто использует контент, созданный ИИ, проставляли соответствующие метки. Закон об маркировке ИИ и Закон о раскрытии информации об ИИ 2023 года предусматривают аналогичные положения.

Возникает важный вопрос: оказывает ли знание о том, что контент был создан с помощью ИИ, существенное влияние на его воздействие? Влияют ли маркировки ИИ на воздействие контента, созданного с помощью ИИ, на взгляды людей на политику и государственную политику?

Согласно исследованию, маркировка контента как сгенерированного ИИ не делает его менее убедительным, чем контент, созданный человеком или не имеющий такой маркировки. Изабель О. Гальегос и ее коллеги провели опрос, чтобы проверить, влияют ли метки авторства на убедительность сообщений, сгенерированных ИИ, о государственной политике. Участники просматривали сообщение, сгенерированное ИИ, по одному из четырех политических вопросов, включая геоинженерию, наркотики, зарплаты студентов-спортсменов и ответственность платформ социальных сетей. Участники были случайным образом распределены на две группы: одна группа видела сообщение, помеченное как созданное моделью ИИ, другая – как написанное экспертом по политике, а третья – без маркировки.

Сообщения повлияли на взгляды на политику в среднем на 9,74 процентных пункта по шкале от 0 до 100. Хотя 92% участников, распределенных в группы с маркировкой ИИ и человеком, поверили меткам, метки не привели к существенным различиям в изменении отношения к политике, оценке точности сообщения или намерениях поделиться сообщением. Эти закономерности сохранялись вне зависимости от политической принадлежности, предыдущего опыта работы с ИИ и уровня образования.

Люди старшего возраста демонстрировали несколько более негативную реакцию на контент, размеченный ИИ, по сравнению с контентом, размеченным человеком. По мнению авторов, хотя разметка контента, сгенерированного ИИ, может быть прозрачной, сама по себе разметка не решит всех проблем, связанных с информацией, созданной ИИ.

Учитывая нынешний уровень доверия к контенту, созданному ИИ, эти результаты показывают, что, хотя метки, вероятно, повысят прозрачность, они вряд ли существенно повлияют на убедительность помеченного контента, что подчеркивает необходимость альтернативных стратегий для решения проблем, связанных с информацией, генерируемой ИИ.

Эти результаты согласуются с исследованиями разговорного взаимодействия, которые показывают, что взаимодействие с ИИ было убедительным, но не сильно различалось в зависимости от условий маркировки. Стоит отметить, что эти результаты отражают текущее состояние возможностей ИИ и его общественное восприятие, которое может меняться.

В исследовании сообщения, созданные ИИ, были намеренно основаны на фактах и ​​логике и опираясь на достоверные источники. В будущем убеждение с помощью ИИ может развиваться в сторону более персонализированных или микроцелевых стилей. В таких случаях метки могут влечь за собой более серьезные последствия, особенно если ИИ имитирует человекоподобные призывы. Однако такое использование может быть ограничено требованиями к маркировке, а имеющиеся данные свидетельствуют о том, что убедительность ИИ обусловлена ​​его стилем, основанным на фактах). Таким образом, влияние меток ИИ будет зависеть от того, как эти системы развертываются и регулируются.

Понимание ИИ, вероятно, будет меняться со временем по мере того, как люди будут лучше знакомиться с расширяющимися возможностями и ограничениями моделей ИИ, что может изменить реакцию людей на контент, созданный ИИ, по сравнению с контентом, созданным людьми.

Есть также основания полагать, что метки, созданные ИИ, делают людей более скептически настроенными по отношению к исходному контенту. Например, предыдущие исследования показали, что люди, как правило, предпочитают контент, созданный человеком, контенту, созданному ИИ, в новостях, сообщениях о здравоохранении, призывах к пожертвованиям и контенте в социальных сетях, поскольку они воспринимают контент, созданный человеком, как более заслуживающий доверия. С другой стороны, метки, созданные ИИ, могут повлиять на восприятие людьми технологической компетентности и уровня развития, заставляя их больше доверять информации, сгенерированной ИИ, чем информации, написанной человеком.

В эпоху стремительного развития систем искусственного интеллекта политики призывают к явной маркировке контента, созданного ИИ. Исследование показало, что убеждающий эффект практически одинаков, когда информация помечена как созданная экспертной моделью ИИ, и когда она помечена как написанная экспертом по вопросам политики или не имеет никакой маркировки. Таким образом, политика раскрытия информации об ИИ может оказывать лишь слабое или нулевое влияние на использование людьми контента, помеченного ИИ. Помимо прозрачности, эта политика выполняет и другие функции, такие как помощь пользователям в принятии обоснованных решений о потреблении контента или ограничение распространения материалов, созданных ИИ.