Согласно исследованию, четверть постов в соцсетях длиной более 250 слов полностью сгенерированы ИИ

Время на прочтение: 4 мин

Согласно новому исследованию платформы обнаружения ИИ Pangram, объем контента, созданного искусственным интеллектом, может быть намного больше, чем считалось ранее.

Pangram предложил пользователям своего расширения для Chrome дать согласие на анонимную передачу данных о просматриваемом контенте в исследовательских целях. В течение двух месяцев с помощью собственной модели обнаружения ИИ-текстов (которая, по заявлению компании, имеет частоту ложных срабатываний всего 0,01%) Pangram проанализировала почти 1 миллион постов, встречавшихся в ленте у этих пользователей.

Важно отметить, что сервис сканировал только те публикации, с которыми реально сталкивались люди. Это доказывает, что проблема засилья низкокачественного ИИ-контента (так называемого «нейрослопа») не ограничивается сомнительными спам-сайтами, а широко распространена на самых популярных платформах, которые ежедневно посещают пользователи, включая LinkedIn, X, Medium, Reddit и Substack.

На платформе X четверть длинных текстов была полностью написана ИИ, а еще 23% – с помощью ИИ. Среди платформ для длинных текстов самая низкая доля контента, написанного ИИ, оказалась у Substack, однако более пятой части его публикаций все еще были помечены как сгенерированные или созданные с помощью ИИ.

Как показывают данные Pangram, на LinkedIn зафиксирована самая высокая доля материалов, сгенерированных искусственным интеллектом. Более 40% постов на платформе длиннее 250 слов были помечены как полностью написанные ИИ. И хотя на долю LinkedIn приходилась только треть всех проанализированных Pangram материалов, на эту соцсеть пришлось почти две трети (62%) всего выявленного ИИ-контента.

Компания также установила, что основные посты в LinkedIn в 1,35 раза чаще оказываются сгенерированы ИИ, чем комментарии под ними. Однако если сравнивать тексты одинаковой длины, эффект меняется на противоположный: ИИ-комментарии в LinkedIn встречаются даже немного чаще, чем ИИ-посты.

В LinkedIn есть встроенная кнопка «Улучшить публикацию», которая предлагает пользователям помощь искусственного интеллекта в написании текстов, что делает процесс использования ИИ простым и удобным.

В ответ на запрос Fast Company компания LinkedIn сослалась на публикацию вице-президента по продукту и исполнительного редактора платформы Лоры Лоренцетти, в которой она сообщила, что платформа намерена выявлять и понижать в ранжировании контент, который создан с помощью ИИ, чтобы пользователи реже видели его в своих лентах. Лоренцетти отметила, что, хотя ИИ может быть полезным инструментом для совершенствования языка, мы наблюдаем рост того, что многие называют «халтурой ИИ» или «нейрослопом» – контента, созданного с минимальными усилиями и сгенерированного ИИ, который лишен какой-либо уникальной точки зрения или содержания.

По оценкам SEO-агентства Graphite, количество статей, созданных и опубликованных в Интернете ИИ, примерно равно количеству статей, созданных людьми.

В течение 12 месяцев после запуска платформы ChatGPT доля статей в интернете, созданных преимущественно с помощью ИИ, подскочила до 36%, а год спустя увеличилась до 48%.

Исследования также показывают, что почти три четверти новых веб-страниц содержат контент, созданный с использованием ИИ, при этом на четверти наблюдается умеренное использование ИИ, на пятой – существенное, а на 15% – доминирование ИИ. Эти статистические данные не учитывают количество контента, созданного ИИ и распространяемого в социальных сетях.

Что касается изображений и видео, то более пятой части контента, показываемого новым пользователям только на YouTube, – это ИИ-халтура. Генеральный директор YouTube Нил Мохан предупреждает, что это создает риски для того высокого качества просмотра, которого ожидают пользователи.

В своем блоге, посвященном трендам на 2025 год, Мохан выразил обеспокоенность по поводу необнаружимости ИИ и появления дипфейков, заявив, что становится все сложнее отличить реальность от того, что создано ИИ.

Хотя сам YouTube внедрил меры по обеспечению прозрачности для защиты от вредоносного контента, созданного с помощью ИИ, остается открытым вопрос, как обычным пользователям надежно выявлять такие публикации.

Один из основных рисков использования ИИ для создания контента – это его способность распространять ложные сведения. Часто возникают так называемые «галлюцинации ИИ», когда большие языковые модели выдают недостоверные факты или делают ошибочные выводы на основе полученных данных.

Механическая перепечатка контента, созданного ИИ, без дополнительной человеческой проверки чревата непреднамеренным распространением ложной информации. Уже существует множество примеров того, как галлюцинации ИИ влияли на государственную политику, процессы принятия решений и закрепляли вредные предубеждения и стереотипы.

Необходимо различать терминологию. Мисинформация возникает, когда ложная информация распространяется случайно. Если человек не знает истинного происхождения данных, которыми он делится, он может ввести в заблуждение свою аудиторию непреднамеренно. Люди часто доверяют своим онлайн-сетям, состоящим из друзей и родственников, считая их надежными источниками. В результате одна неверная публикация может легко распространиться по целым сообществам, прежде чем мисинформация будет обнаружена. Это обстоятельство значительно борьбу с ИИ-контентом.

Дезинформация возникает, когда ложные сведения распространяются преднамеренно. Недавний пример произошел во время чемпионата мира по футболу 2026 года, когда в социальных сетях распространилось отредактированное с помощью цифровых технологий изображение аргентинского футболиста Лионеля Месси, наступающего на ногу защитнику сборной Англии Джеду Спенсу. Это использовалось как аргумент для того, что гол Аргентины следовало отменить. Искусственный интеллект делает создание убедительного манипулятивного контента, предназначенного для распространения дезинформации, проще и убедительнее.

Хотя непосредственная опасность дезинформации заключается в том, как она влияет на наши убеждения, ее дополнительный разрушающий эффект – в возникновении сомнений в любом контенте из интернета, даже если он соответствует действительности.

ИИ-контент угрожает подорвать доверие к информации двумя способами, либо усиливая разногласия по мере их распространения в онлайн-эхо-камерах, либо заставляя сомневаться в достоверности данных даже от надежных источников. Такие публикации подпитывают «предвзятость подтверждения», когда люди склонны верить информации, которая совпадает с их уже сложившимися убеждениями. Если люди потребляют и распространяют контент, не проверяя источник, сдержать лавинообразное распространение дезинформации невозможно. В конечном счете ИИ-контент создает опасный разрыв между тем, как устроен мир, и тем, как мы его воспринимаем, искажая нашу реальность разрушительным образом.

Компания Pangram считает, решение проблемы заключается в информировании пользователей о том, что контент сгенерирован ИИ, чтобы они могли осознанно игнорировать такие материалы. Однако для полноценного автоматического сканирования через их расширение для Chrome потребуется платная подписка за 20 долларов в месяц. Расширение по-прежнему можно использовать и без оплаты, но контент необходимо выделять и проверять вручную, а дневной лимит составляет всего 4000 слов.

Таким образом, возможности ИИ в создании контента развиваются, и признаки ИИ-материалов эволюционируют вместе с технологиями. Длинные тире, трехчастные конструкции и другие признаки контента, написанного нейросетями, никогда не станут абсолютно надежными маркерами его обнаружения. Но все еще есть паттерны, на которые стоит обращать внимание, и мы все еще можем создать культуру прозрачности, которая ставит во главу угла доверие, подлинность и живое человеческое общение в эпоху ИИ.