Соцсети как инструмент влияния на человека, общество, политику, экономику

15.09.2022 Дарья Каспарьянц

Время на прочтение: 4 мин

В марте 2022 в рамках Инициативы по цифровой экономике Массачусетского технологического института прошел второй саммит, посвященный влиянию социальных медиа на демократию, экономику и общественное здоровье «Социальные медиа: что дальше?».

Саммит приурочен к анализу событий в США в январе 2021 года, которые были организованы через социальные сети.

В онлайн саммите участвовало более 12 тысяч представителей из технологической и бизнес среды, а также государственные служащие. Инициатива направлена на разработку решений для нивелирования кризиса в социальных сетях. В частности, в области усиления дезинформации и отсутствия алгоритмической прозрачности.

По результатам саммита выделены пять основных трендов в развитии соцсетей: проблемы медийной зависимости детей и взрослых; системные решения для предотвращения дезинформации; продвижение алгоритмической прозрачности; проблемы распространение соцсетей на сферу политики; формализация стандартов этики для ИИ.

Медийная зависисмоть детей и взрослых

В частности, в рамках саммита бывший менеджер по алгоритмическим продуктам в Facebook (переименован в Meta) рассказала о влиянии Meta на пользователей и предоставила более 10 тысяч материалов для журналистского расследования Wall Street Journal. Она утверждает, что в компании известны механизмы причинения вреда, а также широко используются алгоритмы влияния для распространения опасного, экстремистского контента и другие виды информации, которые воздействуют на молодежь и ведут к психологическим расстройствам. При этом, Meta очень быстро перевел дискуссию из области своих алгоритмов в область цензуры и свободы слова. При этом, отмечается нежелание Meta применять механизмы сдерживания дезинформации, основанные на других аспектах, кроме содержания контента. Например, использование задержки перед нажатием кнопки «поделиться». Такой механизм позволяет пользователю взять паузу и подумать, и сокращает распространение дезинформации на 10-15%. При этом не ограничивает свободу слова, но способствует критическому осмыслению полученной информации. Параллельно, проведенные опросы с участием до 100 тысяч человек указывают на медийную зависимость среди подростков. Однако, Meta для обозначения этой проблемы использует менее тревожный термин – «проблемное использование». Алгоритмы, по мнению одного из участников саммита могут концентрировать вред, используя уязвимости пользователей. Таким образом, это похоже на «кроличью нору», в которую алгоритмы завлекают пользователей, не имея представления о том, несет ли эта информация вред для пользователя или нет. Это провоцирует распространение нежелательного контента. Например, если подписаться в Instagram на «Здоровое питание», через несколько недель пользователь получает контент с восхвалением расстройств пищевого поведения.

По данным Meta, среди детей 11 лет, 20% постоянно находятся в соцсетях. В рамках саммита предложено полностью оградить детей до 13 лет от социальных сетей. Кроме этого, предоставить возможность пользователям отключать таргетированную рекламу, запрещать рекламу для подростков до 16 лет и сделать фиксированные ставки на рекламу. Сегодня поляризующая реклама в несколько раз дешевле, чем эмоциональная и сострадательная. А самый короткий путь побудить пользователя к «кликам» ‑ это чувство ненависти и злости.

Системные решения для предотвращения дезинформации

Согласно представленным на саммите исследованиям, большинство американцев в качестве источника новостей используют телевидение, а фейковые новости появляются как часть всей экосистемы СМИ. Для их выявления необходимо просматривать и анализировать контент на всех платформах, а соцсети должны рассматриваться как новый феноменальный инструмент пропаганды. В США с целью понимания влияния соцсетей на общество и человека, а также их возрастающей роли в распространении дезинформации исследования проводятся в области социологии, психологии и когнитивной науки. В частности, они доказывают, что подробное знакомство с темой наш мозг воспринимает как подсказку к достоверности. То есть, чем чаще происходит знакомство с утверждением (истинным, ложным, нейтральным), тем достовернее воспринимается информация. Таким образом, небольшие группы людей с крайними взглядами могут оказывать значительное влияние на общество. Например, антипрививочные настроения в США распространяют всего около 12 источников. Однако они посеяли сомнения в отношении прививок от других болезней. Вместе с этим затрагиваются вопросы законодательного регулирования платформ. Однако, конкретных решений не предложено. Ученые признают отсутствие понимания механизмов регулирования формирования сети на платформе и инструментов контроля сетевых формирований за счет платформы.

Алгоритмическая прозрачность

Рекомендательные сервисы онлайн-платформ и социальных сетей манипулируют не только политическими взглядами и социальными интересами, но и значительно влияют на экономику. В частности, стимулируют продажи в электронной коммерции, за счет взаимодействия между потреблением контента и потреблением предметов. Согласно исследованию «Изучение возможности внедрения трендов социальных сетей в создание NFT-рекомендаций» 30% дохода Amazon поступает от товаров, рекомендованных пользователям, 60% от просмотра Youtube и 75% от Netflix.

По мнению участников саммита, алгоритмическая прозрачность должна обязательно включать доступ ученых к данным платформ, включая алгоритмы рекомендательных движков, системы ранжирования контента, ответные реакции и другие процессы. Сегодня доступ к алгоритмам имеют только инсайдеры компаний. Это сохраняет проблему тестирования и аудита. Однако сложность заключается не только в получении алгоритмов, но и в сложности алгоритмического ранжирования контента. В частности, оценке вреда и предвзятости. Это связано с «петлей обратной связи» потребителей. То есть, существует взаимозависимость сортировки контента, когда алгоритмы реагируют на выбор пользователя, а затем пользователь делает выбор на основе алгоритма. При этом, формирование фильтр-пузырей¹ на основе этого взаимодействия сложный и неоднозначный процесс. Американские ученые полагают, что не хватает исследований в области модерации и контроля за контентом на платформах. В частности, открытие API для разных специалистов по данным в Европе рассматривается ими как начало пути к прозрачности.

Распространение соцсететей на сферу политики

Сегодня роль медиа и соцсетей может полностью изменить принципы ведения международных конфликтов и понимания политического участия граждан во внутренней политике. Для побуждения социальных медиа публиковать всю доступную им информацию необходимо использовать рычаги давления, включая общественное давление, обращения в суд, создание органов, которые будут изучать влияние соцсетей на политические процессы. Например, в США создана независимая комиссия по изучению влияния Meta на выборы – Social Science One ².

Формализация стандартов этики для ИИ

Вопросы этики искусственного интеллекта обусловлены, по мнению участников саммита, высокотехнологической близорукостью разработчиков и молодых специалистов в области менеджмента и управления. То есть, задачи, поставленные перед ИИ и машинным обучением ограничены их представлениями и сегодняшними отраслевыми желаниями. То есть, специалисты по ИИ попадают в ловушку решения проблем, которые стоят перед ними в данный конкретный момент и в конкретной отрасли. Задача состоит в осмыслении ИИ как социально-технической системы. В частности, профессор английского языка и медиакритик К. Гиллиард выступает за увеличение роли государства в контроле за ИИ в СМИ. Беспрепятственный рост инноваций в области ИИ может принести обществу больше вреда, чем пользы.

Выводы

Проведенный сравнительный анализ материалов саммитов по вопросам социальных медиа показывает накопление нерешенных вопросов относительно расширения влияния соцсетей на все сферы жизни общества, политических институтов и экономических акторов.

В рамках первого саммита поднимались концептуальные вопросы развития социальных сетей как социально-экономического феномена. В частности, вопросы монополизации, сетевые эффекты, развитие новых бизнес-моделей, возможности усиления регулирования, защита данных, проблемы свободы слова и конфиденциальности.

Вопросы второго саммита уходят в плоскость манипулирования мнением, влияния на психическое и физическое здоровье человека, монополизации платформами ценностных ориентиров, манипулирования потребительскими предпочтениями и взглядами, формирования взглядов подростков. Параллельно, соцсети характеризуются как феноменальный инструмент пропаганды, который требует жесткого государственного регулирования.

Таким образом, увеличение комплексности проблем и отсутствие механизмов внедрения предлагаемы решений по регулированию и контролю вызывает серьезную обеспокоенность.

1
Фильтр-пузырь или идеологический фрейм — это состояние интеллектуальной изоляции, которое может возникнуть в результате персонализированного поиска, когда алгоритм веб-сайта выборочно угадывает, какую информацию пользователь хотел бы видеть, на основе информации о пользователе, что формирует неправильное общественное мнение о происходящих событиях.
2
socialscience.one/ Результаты исследований не опубликованы.