Проблемные вопросы и ограничения автоматизированного фактчекинга. Часть 5. Природа вычислений

Время на прочтение: 2 мин

Часть 1
Часть 2
Часть 3

Часть 4

Часть 5

Ограничения вычислительных ресурсов и масштабируемости

Наиболее важным ограничением автоматизированных систем фактчекинга, влияющим на возможность их использования в практической деятельности по мониторингу информационного пространства, является проблема масштабируемости алгоритмов и связанных с ними вычислительных затрат. Современные архитектуры автоматизированной верификации включают несколько последовательных этапов обработки данных: извлечение утверждений, поиск релевантных документов, ранжирование источников и логическую проверку утверждения на основе найденных доказательств. Каждый из этих этапов требует значительных вычислительных ресурсов, особенно при работе с крупными текстовыми корпусами и сложными нейросетевыми моделями. Наиболее ресурсоемкими являются процессы индексации больших коллекций документов и последующего инференса моделей ранжирования и проверки фактов, что существенно ограничивает возможность их применения в масштабах глобальных информационных потоков.

В исследовании по сравнению различных архитектур генерации с расширенным извлечением приводятся конкретные значения задержек для различных схем извлечения доказательств и генерации. Например:

классический поиск по ключевым словам (BM25): около 120 мс на запрос;

плотный векторный поиск: около 150 мс;

гибридный поиск: около 180 мс;

графовые retrieval-архитектуры: около 300 мс;

агентные RAG-системы: до 350 мс на один запрос.

Подчеркнем, что это только часть конвейера, т.к. генерация ответа и дополнительные этапы ранжирования могут существенно увеличивать итоговое время обработки.

В промышленном эксперименте по внедрению RAG-системы фактчекинга на базе LLM показано, что при выполнении полного цикла проверки одного фактологического утверждения, включающего поиск и извлечение доказательств, ранжирование и генерацию ответа, среднее время ответа системы составляло 6,56-9,19 секунды (в среднем 7,33 сек).

Проблема усугубляется необходимостью обработки чрезвычайно больших объемов данных, генерируемых в современных цифровых коммуникационных средах. Социальные сети, СМИ, сервисы мгновенного обмена сообщениями и пользовательские платформы ежедневно создают значительные массивы текстовой информации, значительная часть которой потенциально может содержать проверяемые утверждения. Системы автоматизированного фактчекинга способны анализировать лишь ограниченную долю таких сообщений, поскольку обработка каждого утверждения требует обращения к большим корпусам документов и выполнения сложных моделей логического вывода. Исследования в области автоматической проверки фактов показывают, что даже современные архитектуры демонстрируют существенные задержки при работе с крупными индексами, что затрудняет их использование в задачах потокового анализа информации.

Дополнительной проблемой является задержка (latency) при поиске и обработке доказательств. По мере роста размера корпуса документов увеличивается время выполнения поисковых операций, а использование нейросетевых моделей для ранжирования и проверки фактов дополнительно увеличивает вычислительную нагрузку. В результате полная автоматизированная проверка фактов в режиме реального времени для всего объема сообщений, публикуемых в социальных сетях и средствах массовой информации, при современном уровне развития технологий является технически невыполнимой задачей. Даже при использовании распределенных вычислительных инфраструктур и специализированных аппаратных ускорителей обработка таких масштабных информационных потоков потребует значительных ресурсов и неизбежно будет сопровождаться задержками. По этой причине практические системы фактчекинга должны применять предварительную фильтрацию и приоритизацию сообщений, концентрируя вычислительные ресурсы лишь на ограниченном наборе потенциально значимых утверждений.