Когда не следует использовать генеративный ИИ

Время на прочтение: 4 мин

Генеративный ИИ необходим не для решения каждой проблемы – неправильное его использование может помешать достижению целей компании и снизить ценность ИИ в организациях.

Несмотря на то, что генеративный искусственный интеллект получил широкое распространение и в настоящее время составляет значительную часть инициатив в области ИИ в организациях, его повсеместное внедрение может создавать проблемы. Ажиотаж вокруг GenAI часто приводит к тому, что компании не понимают, действительно ли эти методы ИИ лучшим образом соответствуют их потребностям и рискуют столкнуться с большей сложностью и упущенными возможностями для получения выгоды. Чрезмерное сосредоточение на GenAI может привести к тому, что организации будут игнорировать альтернативные, зачастую более надежные методы ИИ, которые могут лучше подходить для большинства сценариев использования.

Генерация искусственного интеллекта – это один элемент гораздо более широкой системы искусственного интеллекта, и большинство бизнес-задач требуют сочетания различных методов ИИ. Игнорирование этого факта чревато переоценкой влияния генерации искусственного интеллекта и внедрением этой технологии в тех случаях, когда она не принесет желаемых результатов.

Следует определить, подходит ли GenAI для конкретного случая. Стоит выяснить, является ли данный сценарий использования ценным для бизнеса и осуществимым ли он, независимо от используемой технологии ИИ. Это важно, потому что некоторые сценарии использования не подходят для ИИ и не заслуживают дальнейшего рассмотрения.

Эксперты рекомендуют сочетать модели GenAI с другими методами искусственного интеллекта. Технологии искусственного интеллекта не являются взаимоисключающими, их часто можно комбинировать таким образом, чтобы обеспечить более высокую точность, прозрачность и производительность, одновременно снижая затраты и потребность в данных.

Генеративный ИИ может помочь в генерации идей, но он не справляется с созданием подробных планов, которые учитывают все переменные и непредвиденные обстоятельства.

Генеративный ИИ может создавать произведения искусства и литературу, но он в значительной степени опирается на существующие данные.

Генеративный ИИ плохо подходит для полностью автономных систем, которым необходимо работать независимо и адаптироваться в режиме реального времени. Хотя он может быть полезен в выполнении задач, он не способен справляться с неожиданными ситуациями так же эффективно, как человек. В сложных ситуациях недостаточно одних алгоритмов.

Принятие важных решений, таких как найм сотрудников, требует объяснимости и справедливости. «Чёрный ящик» GenAI делает его неприменимым для таких ответственных ситуаций. Модель может отдавать предпочтение кандидатам на основе предвзятых обучающих данных.

Результаты работы GenAI часто требуют человеческого контроля, что делает их непригодными для приложений, требующих полной автономности.

Системы, основанные на правилах, будучи прозрачными и понятными, подходят для таких рабочих процессов, как кредитный скоринг, где ясность имеет решающее значение. Объяснимый искусственный интеллект предоставляет информацию о процессах принятия решений, повышая доверие и подотчетность. Автономные системы, такие как беспилотные автомобили или роботизированная автоматизация, требуют надежности и точности.

Использование GenAI также может оказаться нецелесообразным, если связанные с ним риски неприемлемы и не могут быть эффективно минимизированы. К ним относятся ненадежные результаты, конфиденциальность данных, интеллектуальная собственность, ответственность, кибербезопасность и соответствие нормативным требованиям, как по отдельности, так и в сочетании друг с другом.

Для решения автономных задач следует обратить внимание на передовые робототехнические системы или системы Интернета вещей, оснащенные адаптивными алгоритмами, способными к обучению и быстрому реагированию.

Существуют сценарии, в которых их применение может оказаться неэффективным:

— проблемы качества данных. GenAI в значительной степени опирается на высококачественные, хорошо структурированные данные. Если организации не хватает надежных данных или она сталкивается с несоответствиями, результаты работы GenAI могут быть ошибочными. Например, в розничной торговле неточные описания товаров или ошибки в учете запасов могут привести к вводящим в заблуждение маркетинговым кампаниям и снижению доверия клиентов.

-проблемы, связанные с конфиденциальными данными. В таких отраслях, как здравоохранение, финансы и государственное управление, часто приходится работать с крайне конфиденциальной информацией. Внедрение генеративного искусственного интеллекта в этих областях без надежных мер защиты может создать серьезные проблемы, такие как утечки данных или несоблюдение правил конфиденциальности.

— ограничения по стоимости. Обучение и поддержка моделей искусственного интеллекта могут быть дорогостоящими и требовать значительных вычислительных мощностей, квалифицированного персонала и времени. Для малых и средних предприятий эти затраты часто оказываются непомерно высокими. В таких случаях более традиционные методы искусственного интеллекта могут предложить экономически эффективные альтернативы без ущерба для эффективности. Для приложений, которые требуют высокой точности, таких как медицинская диагностика или юридический анализ, присущая искусственному интеллекту непредсказуемость делает его неприменимым. Хотя он может помочь в генерации идей или гипотез, его результаты часто требуют проверки человеком.

— этические и нормативные требования. Внедрение генеративного ИИ без учета этических аспектов – таких как предвзятость, дезинформация или вопросы авторского права – может нанести ущерб репутации бренда и привести к серьезным юридическим последствиям. Например, финансовое учреждение, использующее генеративный ИИ для одобрения кредитов, может непреднамеренно внести предвзятость, что повлечет за собой серьезные проблемы с соблюдением нормативных требований.

— генерация искусственного интеллекта не подходит в качестве основного метода для задач, которые требуют прогнозирования, планирования и оптимизации, а также принятия решений. Она также плохо подходит, когда необходимы точные вычисления, надежные результаты или полная автономность без участия человека. Кроме того, если риски, связанные с ненадежностью результатов, ответственностью, кибербезопасностью или соблюдением нормативных требований, неприемлемы для конкретного случая, GenAI может оказаться неподходящим решением.

В тех областях, где генеративный ИИ не несет явной пользы, следует рассмотреть другие методы ИИ, включая такие устоявшиеся варианты, как негенеративное машинное обучение, оптимизация, моделирование, правила или эвристики, а также графы знаний, а также новые подходы, такие как причинный ИИ, генерации синтетических данных, компьютерного зрения, нейросимволический ИИ и ИИ, основанный на фундаментальных принципах. Также стоит следить за новыми методами, такими как причинно-следственный ИИ, нейросимволический ИИ и ИИ, основанный на фундаментальных принципах. Эти альтернативы часто более надежны, лучше изучены и менее рискованны, чем генеративный ИИ, во многих случаях применения. Например, методы оптимизации превосходно подходят для планирования, а негенеративное МО превосходит их в задачах прогнозирования.

Эффективность планирования моделей рассуждений по-прежнему уступает традиционным методам оптимизации и поиска. Лучший подход часто заключается в сочетании GenAI с другими методами ИИ для создания более надежных систем.

Когда дело доходит до точных прогнозов, генеративный ИИ может быть как успешным, так и неудачным. Хотя он может генерировать общие идеи на основе закономерностей, ему не хватает точности и надежности, часто необходимых для прогнозирования.

Для повышения точности рекомендуется использовать продвинутые статистические модели или алгоритмы машинного обучения, специально разработанные для прогнозирования – они могут более эффективно анализировать исторические данные.

Добавление GenAI там, где достаточно более простых методов, может излишне усложнить системы ИИ, снизив их эффективность. Чрезмерное сосредоточение на искусственном интеллекте может затмить более подходящие методы, что приведет к неоптимальным результатам. Этические проблемы, такие как предвзятость, галлюцинации и необъяснимость, могут привести к ущербу репутации и проблемам с регулированием.