Системы ИИ и ИИ-агенты. Возможности и ограничения
В настоящее время многие организации и люди используют ChatGPT для повседневной работы, создания чат-ботов и другого применения генеративного ИИ. Вместе с тем, существует ряд проблем, связанных с его применением.
В частности, большинство работников умственного труда тратят до 60% своего времени на проверку фактов в контенте, созданном ИИ, ручное выполнение рекомендаций ИИ и пр. Это связано с тем, что системы ИИ являются хорошими консультантами, но не могут осуществить реальное действие – отправить письмо, забронировать отель, договориться о встрече и т.д. Такая ситуация значительно снижает их эффективность. Сотрудники большинства компаний тратят больше времени на управление системами ИИ, чем на выполнение значимой работы.
В книге П. Борне «Agentic Artificial Intelligence» представлено три истории применения ИИ, которые показывают их ключевые недостатки. Первая история представлена описанием планирования отпуска с помощью ИИ. Интересный план со списком гостиниц и мест для посещений, четко спланированным графиком оказался невозможным к воплощению. Система ИИ детально описала лучший вариант проведения отпуска, однако не проверила наличие мест, не сравнила стоимость перелетов, отзывы о гостиницах и пр. Настоящая работа остается за человеком. Таким образом, ИИ не выполняет рутинные задачи, а создает идеальную модель для воплощения на практике человеком.
История из мира исследований связана с использованием ИИ для масштабного анализа данных. ИИ обнаружил определенные закономерности и другие данные, которые исследователи ранее не рассматривали. Однако при проверке оказалось, что ссылки на исследования не существуют, анализ не соответствует ни одному из известных исследовательских направлений. То есть, ИИ может создать исследовательский контент, но ему не хватает навыков для научной работы в проверке фактов, обеспечения согласованности, сравнения источников и логических связей в различных контекстах.
Еще одна история связана с возможными критическими ситуациями при использовании ИИ. Так, ИИ используется для помощи при приеме пациентов в больнице – собирает симптомы, показатели, историю болезни и дает предварительную оценку. При этом, часто присутствует несогласованность работы разных систем, что приводит к выдаче ложных результатов. Медицинским работникам необходимо вручную проверять работу каждой системы и самостоятельно координировать ответные меры.
Таким образом, существующие системы искусственного интеллекта не способны реализовывать сгенерированные ими задачи, не могут накапливать достоверные знания в течение времени и адаптироваться на основе опыта, не способны эффективно взаимодействовать друг с другом.
Решением указанных проблем может стать агентный ИИ. Его задачи заключаются в создании более умного ИИ, способного к автономным и скоординированным действиям. Отличительная особенность агентного ИИ – способность действовать независимо для достижения поставленных задач. В отличие от генеративных систем ИИ, агентный ИИ понимает цель, проявляет инициативу, сохраняет согласованность с задачей и адаптирует стратегию на основе обратной связи. Агентная система не просто генерирует идеи, она способна к действиям, реальному взаимодействию с приложениями, работе с данными, управлению оборудованием и пр. Так, например, в случае с отпуском агент ИИ проверит доступность и стоимость в режиме реального времени в нескольких системах бронирования, в случае отсутствия подходящего вариант скорректирует план, найдет альтернативу и забронирует билеты. Кроме того, он способен отслеживать все детали и сохранять общую картину процесса.
В истории с исследованиями агент ИИ проверит научные источники, изучит достоверность и актуальность, отметит противоречия и разработает логическую структуру для формирования выводов и доказательств. В сценарии с согласованностью медицинских систем ИИ, вместо независимых ИИ агентов можно представить группу параллельных скоординированных агентов, которые интегрируют информацию из разных источников в режиме реального времени для отслеживания различных показателей и передачи данных в различные отделения.
Таким образом, потенциал ИИ-агентов позволит расширить возможности человека в различных областях. Вместе с тем, они не смогут заменить целые рабочие функции, а качество данных, интеграция рабочих процессов могут ограничивать работу ИИ-агентов. Кроме того, любая система не может быть полностью надежна, поэтому требует строго контроля со стороны человека.
