Манипулятивные алгоритмы социальных сетей и цифровая зависимость

Время на прочтение: 2 мин

Экспертами были выявлены угрозы, связанные с дизайном и использованием социальных сетей, и возможные негативные последствия развития данной социальной активности.

Социальные сети вызывают интерес ученых как феномен новой социальной активности, который имеет как положительное, так и негативное влияние на общество. Расширяя возможности взаимодействия граждан с одной стороны, социальные сети используют манипулятивные алгоритмы для формирования цифрового пристрастия с другой. Это может приводить к поляризации общества, способствовать девиантному поведению и маргинализации наиболее уязвимых групп населения, таких как подростки, вызывать политическую дестабилизацию.

Существует следующая классификация типов угроз:

Контентные угрозы включают токсичный контент, фейковые новости/дезинформацию, стереотипизацию и буллинг. Для их выявления разрабатываются специальные автоматизированные системы обнаружения.

Угроза манипулятивных алгоритмов основана на захвате внимания пользователей, сборе данных и следов в сети, включая все «лайки» и количество времени, которое пользователь потратил на просмотр рекламы и контента и продажу всех этих данных рекламодателям и другим внешним игрокам для дальнейших поставок контента, рекламы и информации пользователю. Такая форма манипуляции в сети Интернет получила название «капитализм слежения». Кроме этого, избирательное воздействие источников новостей на пользователей может приводить к формированию поляризованных структур закрытых групп; например «фильтрующие пузыри» и эхо-камеры.

Динамические угрозы вызваны расширенным и быстрым взаимодействием между алгоритмами соцсетей, нормальными внутренними социальными тенденциями и интересами заинтересованных сторон. Это взаимодействие может усилить принятие радикальных убеждений, повысить восприятие пользователей к ненавистническому контенту, провоцировать фейковые новости в больших масштабах.

Когнитивные и социально-эмоциональные угрозы связаны с ограниченным вниманием пользователей, ошибками в обработке информации, отсутствии невербального общения. Эти факторы усиливают невнимательность и недостойное поведение и усиливаются такими эмоциональными факторами как анонимность, отсутствие социального осуждения и невозможность разоблачения.

Цифровая зависимость тесно связана с дизайном соцсетей, который вызывает привыкание. Особенности такого дизайна направлены на удержание пользователей в постоянной зависимости от «лайков» и прокрутки рекламы и ленты новостей. Следовательно, проблема возникает не только в манипулятивных алгоритмах, но и в вызывающем привыкание дизайне социальных сетей. Кнопка «Like» – яркий пример захватывающей функции дизайна. Трепет и разочарование от постоянной проверки того, сколько «лайков» появляется в социальных сетях, тесно связано с чувствами от азартных игр.

При регулярном использовании соцсетей поведение пользователей может приобрести нейрокогнитивные характеристики, типичные для фармакологической и поведенческой зависимости. Это в большей степени относится к подросткам. Например, согласно исследованию Facebook, Инстаграм оказывает негативное воздействие на подростков, в особенности девочек.

Функция бесконечной прокрутки, а также функция автоматического обновления приводят к безостановочной прокрутке негативных новостей (doomscrolling). В США в связи с обостряющейся проблемой постоянного просмотра цифрового контента существует мнение о том, что «doomscrolling» – это такая же привычка как курение. Если раньше считалось нормой курение в общественных местах, то сейчас место сигареты занял просмотр лент в соцсетсях. При этом прокрутка имеет несколько вредных последствий, таких как неосознанные и поспешные действия, что особенно актуально для подростков.

Выводы. Несмотря на то, что цифровая зависимость пока не вошла в реестр психических заболеваний, она влияет на поведение пользователей, в том числе на успеваемость и настроение школьников. Отсутствие цифровой грамотности способствует эскалации приведенных выше угроз, в частности непреднамеренного распространения вредоносного контента или склонения к опасному поведению.

По мнению экспертов НТЦ, для решения этих проблем компании, владеющие соцсетями, могли бы произвести их редизайн в сторону индивидуального контроля над технологиями, использования рекомендательных сервисов для поиска достоверной информации и возможности контролировать собственные данные и онлайн-информацию в сети Интернет.

Поделиться