Время на прочтение: 7 мин

Общая характеристика проблемы автоматизированного фактчекинга.

В последнее десятилетие автоматизированный фактчекинг стал предметом активных академических исследований и практических изысканий. Это явление объясняется значительным увеличением объемов информации, циркулирующей в цифровых медиа, социальных сетях и научно-популярных источниках, а также сопутствующим ему ростом случаев распространения фейков – недостоверной, манипулятивной или искаженной информации. Резкое увеличение количества фейков в сети Интернет началось в 2020 году с распространением пандемии коронавируса COVID-19; этот тренд с новой силой продолжился с началом специальной военной операции России на Украине в 2022 году.

В условиях разнообразия источников и высокой скорости распространения фейкового контента традиционные ручные методы проверки фактов, используемые органами государственной власти, экспертами и журналистами, оказались недостаточно эффективными и неспособными к масштабированию. Это создало предпосылки к разработке систем, способных автоматизировать ключевые элементы процесса фактчекинга, таких как выявление утверждений, их верификацию, формирование и обоснование заключений, в том числе на основе внешних данных.

Фактчекинг представляет собой процесс оценки истинности утверждений, представленных в контенте, путем сопоставления этих утверждений с доказательствами и надежными источниками информации. В классическом своем понимании этот процесс выполняется экспертом-человеком, который использует разные методы сбора и анализа данных, включающие специализированные базы знаний, архивные источники, а также интервью. Но с активным развитием в последнее десятилетие технологий машинного обучения и обработки естественного языка появилась возможность автоматизировать значительную часть этих подпроцессов, что привело к формированию междисциплинарного направления исследований, известного как автоматизированный фактчекинг. Предметом этого направления являются методы и алгоритмы, направленные на автоматическое выявление и оценку достоверности утверждений, содержащихся в контенте, а объектом – сами данные и способы их обработки с применением вычислительных средств. В рамках такого подхода автоматизированный фактчекинг в зарубежной научной литературе рассматривается как последовательность взаимосвязанных этапов, включающая в себя:

• обнаружение утверждений (claim detection);
• поиск доказательств (evidence retrieval);
• классификация утверждений по степени достоверности;
• генерация и вывод решения и его обоснование.

Эта классификация была систематизирована в ряде обзорных публикаций по предметной теме. На ее основании ключевые задачи автоматизированного фактчекинга формулируются в терминах автоматизации элементов классического процесса верификации:

• идентификация релевантных утверждений в контенте (т.к. не каждая единица контента содержит утверждение);
• оценка их значимости для проверки (т.к. не каждое утверждение необходимо проверять);
• извлечение и ранжирование доказательств из внешних источников;
• вынесение заключения о достоверности и его обоснование.

Исследователи Zeng, Abumansour и Zubiaga приводят в своей работе⁵ следующую модульную схему автоматизированной системы фактчекинга (рис. 1).

Важно отметить, что полный процесс валидации утверждений – это самая тяжелая и дорогая (в плане использования ресурсов) часть всей системы, т.к. требует поиска по большим коллекциям документов, работы сложных NLP-моделей и логического вывода. Запуск процесса валидации для каждого утверждения медленен, дорог и неэффективен. Поэтому на этапе определения утверждений система также пытается определить, не встречалось ли оно раньше (нет ли его в базе уже известных и размеченных). Если система обнаружила, что очень похожее или идентичное утверждение уже присутствует в базе и для него уже существует вынесенный вердикт, то проводить полную процедуру валидации заново нет смысла. Такие утверждения идут напрямую к блоку «вердикт» (рис. 1).

Рис. 1. Модульная схема системы фактчекинга

В соответствии с представленной структурой функциональные компоненты современных автоматизированных систем включают модули для обработки естественного языка, классификации текстовых фрагментов, поиска и сопоставления данных из различных источников, а также механизмы объяснения результатов. Эти компоненты могут быть разработаны с использованием нейросетевых моделей, трансформеров и методов семантического поиска. Перспективными также видятся гибридные подходы, которые сочетают в себе машинное обучение с классическими методами информационного поиска.

Системы автоматизированного фактчекинга работают с разнообразными типами данных, каждый из которых имеет свои ключевые особенности и сложности. В новостной сфере данные – это преимущественно короткие сообщения, например, заголовки публикаций и абзацы, содержащие утверждения о событиях или фактах, требующих подтверждения или опровержения. В политической области необходимо осуществлять проверку партийных программ, высказываний политиков, заявлений в публичных дебатах, поэтому соответствующие разработки должны уметь учитывать лингвистические особенности и контекст подобных материалов. В научно-популярных и специализированных текстах автоматизированные решения должны быть направлены на проверку фактов, относящихся к конкретным предметным областям знаний (например, физика, химия, биология и т.д.). В отличие от предыдущих двух сфер знаний, это требует интеграции узкоспециализированных источников и баз справочных данных. Исторические тексты, в свою очередь, характеризуются высокой зависимостью значимости утверждений от хронологического, географического и источникового контекста, что добавляет сложности в задачи автоматизированной верификации. Одно и то же историческое событие может иметь в разных источниках различные трактовки (вплоть до диаметрально противоположных). Поэтому работа с историческими данными требует от автоматизированной системы не только сопоставления утверждений с доказательствами, но, что более важно – корректной интерпретации источников. Это является одной из ключевых исследовательских проблем в применении автоматизированного фактчекинга к исторической предметной области.

Анализ зарубежного опыта в разработке и развитии автоматизированных систем фактчекинга показывает активность как научного сообщества, так и разработчиков практических решений в создании инструментов, охватывающих разные компоненты процесса. Современные исследования в области искусственного интеллекта включают разработку методов для автоматического выделения проверяемых утверждений, создание механизмов извлечения доказательств из открытых источников и реализацию алгоритмов для оценки достоверности утверждений на основе как структурированных, так и неструктурированных данных. Среди таких работ можно выделить исследования, в которых системы показывают способность эффективно комбинировать разные стратегии проверки, включая модульное разложение утверждений на подзадачи, семантический поиск доказательств в веб-источниках и синтез решений в конечный вердикт.

Таким образом, рост объема информации и распространение цифровых медиа делают необходимым развитие и совершенствование автоматизированных методов, способных обеспечивать высокую эффективность, точность и воспроизводимость проверки фактов. Проблема автоматизированного фактчекинга носит междисциплинарный характер, объединяя в себе задачи обработки естественного языка, информационного поиска, машинного обучения и работы с источниками знаний.

Зарубежные исследовательские проекты и прикладные решения

Развитие автоматизированного фактчекинга в зарубежной практике характеризуется параллельными процессами проведения академических исследовательских инициатив и разработки прикладных промышленных решений. В отличие от методологических исследований, направленных на разработку отдельных алгоритмов (выявление утверждений – claim detection, сопоставление с документами – document retrieval, поиск доказательств – evidence retrieval, верификация утверждений – claim verification), данные проекты представляют собой комплексные платформы, объединяющие задачи создания корпусов данных, организации соревнований, разработки прототипов и внедрения инструментов в медиасреду.

Одним из наиболее значимых академических проектов является корпус данных и соревнования FEVER (Fact Extraction and VERification), созданные исследователями из Университета Шеффилда (Великобритания) и Институтом искусственного интеллекта Аллена (США) в 2018 году. Особенностью FEVER является объединение двух взаимосвязанных задач поиска доказательств и классификации утверждений в рамках единой постановки задачи, где система должна не только определить метку «подтверждается» / «опровергается» / «недостаточно информации», но и представить конкретную доказательную базу. В дальнейшем FEVER превратился в открытый бенчмарк и серию соревнований, стимулировавших развитие многошаговых retrieval-моделей и гибридных архитектур. Данный проект фактически задал стандарт экспериментальной оценки систем автоматизированного фактчекинга.

Развитием идей FEVER стали более сложные задачи многошагового поиска доказательств. В частности, корпус HoVer, разработанный исследовательской группой из Национального Университета Тайваня, ориентирован на проверку утверждений, требующих агрегации информации из нескольких документов и последовательного перехода между связанными сущностями. Это позволило приблизить исследовательскую постановку к реальным условиям, в которых подтверждение факта часто требует интеграции разнородных источников.

Другим значимым направлением является инициатива CLEF CheckThat!, проводимая в рамках конференции Conference and Labs of the Evaluation Forum (CLEF). Начиная с 2018 года CheckThat! задачи по выявлению проверяемых утверждений, определению их приоритетности и автоматической проверке в различных языковых и тематических доменах. Особенностью CLEF CheckThat! является ориентация на многоязычность и прикладной характер, включая анализ политических заявлений и новостных публикаций. Данная инициатива сыграла важную роль в расширении исследований за пределы англоязычного корпуса и стимулировала развитие мультиязычных моделей.

В прикладной сфере значительное распространение получила спецификация ClaimReview, разработанная компанией Google совместно с международной сетью фактчекинговых организаций. ClaimReview представляет собой структурированный формат разметки проверенных утверждений, включающий текст утверждения, источник, результат проверки и ссылку на публикацию. Использование данной схемы обеспечивает машиночитаемую интеграцию результатов проверки в поисковые системы и новостные агрегаторы. На основе ClaimReview функционирует сервис Google Fact Check Explorer, предоставляющий пользователям возможность поиска по базе проверенных утверждений. Этот инструмент является примером практической интеграции фактчекинговых данных в инфраструктуру поисковых сервисов.

Также инструменты фактчекинга активно интегрируются в медиаплатформы. Социальные сети и поисковые системы постепенно внедряют механизмы автоматической маркировки потенциально недостоверного контента и отображения ссылок на проверенные источники. Алгоритмические системы выполняют функцию предварительного выявления и приоритизации контента.

Ряд решений и прототипов разрабатывается в рамках исследовательских проектов с открытым исходным кодом. Такие прототипы, как правило, реализуют полный пайплайн от выявления утверждения до генерации обоснования. Открытость кода и данных позволяет проводить эксперименты и сравнительную оценку методов, после чего адаптировать прототипы к новым областям знаний.

Отдельного рассмотрения заслуживает опыт Китайской Народной Республики, где развитие технологий автоматизированного фактчекинга осуществляется в тесной связке с задачами мониторинга информационного пространства и контроля достоверности онлайн-контента. В отличие от западных инициатив, ориентированных преимущественно на открытые соревнования и академические бенчмарки, китайские проекты часто закрыты и интегрируются в национальные медиаплатформы и государственные информационные системы.

На академическом уровне значительный вклад внесли исследовательские группы из Университета Цинхуа, Пекинского Университета и Китайской Академии наук. В их работах активно развиваются методы автоматической проверки китаеязычных утверждений, включая модели семантического сопоставления и многошагового извлечения доказательств на основе крупных новостных и энциклопедических корпусов. Существенным направлением является адаптация архитектур к особенностям китайского языка, включая иероглифическую морфологию и отсутствие явных границ слов, что требует специализированных методов сегментации текста и предобработки данных.

Важной особенностью китайских исследований является создание национальных корпусов для проверки фактов. Были разработаны датасеты для китаеязычной верификации, ориентированные на новостные публикации и социальные медиаплатформы. Эти корпуса включают разметку по степени достоверности и по типу дезинформации, что позволяет учитывать специфику информационных кампаний в региональном контексте.

Практическая интеграция технологий фактчекинга реализуется в сотрудничестве исследовательских институтов с крупными цифровыми платформами, среди которых Tencent и Alibaba Group. В рамках этих проектов разрабатываются системы автоматического выявления и предварительной проверки спорных утверждений в пользовательском контенте. Алгоритмические модули выполняют задачу раннего обнаружения потенциально недостоверной информации, после чего материалы могут передаваться экспертам или редакционным службам для дополнительной проверки.

Для оценки доверия к источникам в китайском сегменте сети системы мониторинга активно используют графовые модели распространения информации в социальных сетях, анализируя структуру репостов и сетевые характеристики аккаунтов. Такой подход позволяет выявлять координированные информационные кампании и оценивать надежность источников на основе поведенческих признаков.

Гибридные системы «человек-ИИ»

Полностью автоматизированный фактчекинг в реальных информационных средах ограничен вследствие ряда сложностей, основные из которых – неполнота знаний, неоднозначность формулировок, необходимость контекстной интерпретации и оценки качества источников. В связи с этим широкое распространение получили гибридные системы «человек-ИИ», в которых алгоритмические компоненты используются для поддержки профессиональных фактчекеров, а окончательное решение сохраняется за экспертом. Такой подход обеспечивает баланс между масштабируемостью автоматических методов и критическим анализом, характерным для человеческой экспертизы.

Одним из первых направлений развития гибридных решений стали инструменты поддержки редакционных команд. Крупные международные медиахолдинги и исследовательские организации, такие как Full Fact, PolitiFact, АНО «Диалог регионы» и др., используют программные средства для автоматического мониторинга информационных потоков, предварительного выявления проверяемых утверждений и поиска релевантных источников. Типовая архитектура подобных систем включает несколько модулей: модуль выявления утверждений, модуль поиска доказательств, интерфейс представления результатов эксперту и инструменты документирования проверки. ИИ в таком случае выполняет функцию фильтра и ассистента, сокращая время поиска информации и предварительной сортировки материалов. Эксперт, в свою очередь, принимает решение о корректности утверждения, формирует интерпретацию доказательств и публикует итоговое заключение.

Полуавтоматизированные пайплайны представляют собой последовательность этапов, в которых часть операций выполняется автоматически, а часть вручную. Например, автоматизированная система может обнаружить потенциально значимое утверждение, извлечь релевантные документы и ранжировать доказательства по релевантности и доверенности источника. После этого эксперт осуществляет проверку корректности извлеченных доказательств, анализ контекста и формирует аргументированный вывод.

Подобная архитектура особенно актуальна в задачах исторического фактчекинга, где интерпретация источников требует учета историко-культурного контекста и социальных особенностей. Полуавтоматизированный режим позволяет использовать вычислительные методы для масштабирования поиска, сохраняя экспертный контроль над содержательной частью анализа.

Подход «человек-в-контуре» («human-in-the-loop») предполагает включение человека в контур принятия решений на различных этапах функционирования модели. В контексте фактчекинга данный подход может быть реализован в различных нескольких формах, в том числе в интерактивной корректировке результатов поиска доказательство, ручной валидации автоматически сгенерированных доказательств и оценке и редактировании объяснений, сформированных моделью. Такой подход используется не только на этапе применения системы, но и при ее обучении. Экспертная разметка утверждений, доказательств и объяснений формирует обучающие выборки, повышающие качество моделей классификации и извлечения доказательств. Кроме того, обратная связь пользователя позволяет снижать количество ошибок и галлюцинаций в генеративных компонентах.

В условиях работы с большими языковыми моделями концепция «человек-в-контуре» становится механизмом контроля интерпретируемости и предотвращения распространения недостоверных выводов. Это особенно важно в публичных информационных системах.

Для задач проверки исторических утверждений гибридная архитектура «человек-ИИ» представляется наиболее обоснованной. Исторические источники в условиях информационного противодействия со странами Запада требуют интерпретации, сопоставления с научными публикациями и анализа контекста, что затрудняет полностью автоматическую обработку. Включение эксперта в контур принятия решений позволяет учитывать историографические дискуссии и корректно трактовать противоречивые данные, а также подготовит механизм накопления обратной связи для последующего улучшения моделей.