Проблемные вопросы LLM. Язык как инструмент общения или мышления
Быстрое и масштабное внедрение генеративного искусственного интеллекта происходит в значительной степени за счет больших языковых моделей (LLM). Однако, предоставление ИИ сложной информации способствует формированию серьезных заблуждений.
Совершенствование в рамках обобщений не означает повышение надежности и точности. В частности, создание оптимальных планов для цепочек поставок или анализ инвестиционных сценариев для оптимизации финансовых портфелей требуют сложных рассуждений и учета зависимостей, основанных на прямых и обратных логических и числовых вычислениях.
Кроме этого, недавние исследования доказывают невозможность познания смысла через форму. В лингвистике существует четыре важных понятия:
форма – любое наблюдаемое выражение языка (письмо, знаки, устная речь);
коммуникативное намерение – цель говорящего по отношению к слушателю (простое общение, донесение информации, воздействие);
смысл – отношение между формой и коммуникативным намерением;
понимание – способность слушателя уловить смысл.
Это означает, что система, обученная только на форме, не имеет возможности изучить смысл. Изучение человеческого языка основано не только на изучении физического мира, но и на взаимодействии людей в этом мире.
Согласно другому исследованию, опубликованному в журнале Nature, «Язык – инструмент общения, не мышления», язык не является предпосылкой для сложного мышления, включая символическое. Язык – это инструмент передачи культурных знаний и только отражает, но не порождает сложность человеческого познания. На основе результатов МРТ, авторы доказывают, что обработка человеческой речи сосредоточена на определенных областях головного мозга, которые используются только для обработки речи и не участвуют в неязыковых когнитивных задачах (решение арифметических задач, распознавание мимики и мышлении в целом).
Таким образом, ожидания вокруг LLM могут быть сильно завышены. Однако в компания Elemental Cognition утверждают, что смогли объединить возможности LLM и формальных систем, способных к сложному рассуждению с использованием математических алгоритмов. В компании разработана платформа, повторяющая человеческую биологию, в которой компоненты естественного языка отделены от механизмов рассуждения и решения проблем. Компоненты естественного языка используются в качестве интерфейсов ввода/вывода по взаимодействию с человеком для получения и доставки знаний. Механизмы рассуждений сочетают различные математические и логические методы для решения сложных задач.
Основатель компании и бывший научный сотрудник IBM, Д. Феруччи объясняет ограничения LLM на примере разницы между естественными и формальными языками. Так, естественные языки, английский, испанский, китайский, неоднозначны и неточны. Они позволяют людям общаться, но недостаточно надежны для логических рассуждений и вычислений. Формальные языки, которые используются в математике и программировании, созданы для строгого и явного применения четких правил логического вывода в целях вычисления и получения ответов. Для сложных задач рассуждения, где нельзя ошибаться естественные языки не подходят. Двусмысленность и субъективность естественного языка больше подходит для воздействия и убеждения другого человека. Формальные языки способствовали развитию науки и технологической революции.
Для решения сложных задач с помощью ИИ, с учетом прозрачности и точности необходимо преодолеть разрыв между естественным языком и формальным рассуждением. Поэтому полагаться на LLM для решения таких задач опасно. Несмотря на то, что естественные языки помогают обмениваться информацией, их двусмысленность может приводить к недоразумениям. Кроме этого, личный опыт, предубеждения и эмоции наполняют человеческий язык и стирают границы смысла, приводя к различным интерпретациям одной и той же информации. Надежные процессы принятия решений требуют точной семантики или значения, математически точных, объективно правильных процедур принятия решений. В Elemental Cognition нашли способ объединения LLM и формальной логики в рамках LLM Sandwich. Это искусственный интеллект, который решает сложные проблемы с помощью надежных рассуждений, то есть, возможность взаимодействовать на естественном языке с механизмом рассуждения общего назначения, который способен надежно и интерактивно решать проблемы с использованием формальных математических алгоритмов. Платформа EC AI располагает четырьмя преимуществами:
взаимодействие с формальным механизмом на естественном языке;
доказуемо-правильные ответы;
прозрачность решений;
низкие затраты при высокой производительности и масштабируемости.
Таким образом, зарубежные разработки выходят за пределы использования LLM, характеризуются поиском новых решений и повышением производительности.
