Здравый смысл и интуитивное мышление в системах ИИ

Время на прочтение: 3 мин

Ключевое ограничение в применении систем искусственного интеллекта связано с отсутствием здравого смысла, то есть способности к рассуждению о повседневных ситуациях и событиях.

Это умение требует широкого спектра фоновых знаний об устройстве физического, социального, духовного мира. Так, согласно философскому энциклопедическому словарю, здравый смысл – это стихийно складывающиеся под воздействием повседневного опыта взгляды людей на окружающую действительность и самих себя, которые являются основанием для их практической деятельности и морали. 

Вопрос здравого смысла в системах ИИ интересует ученых и государственные организации. В частности, DARPA финансирует проект Machines with Common Sense (Машины со здравым смыслом, далее ‑ MCS). В рамках проекта работают несколько исследовательских институтов. Институт искусственного интеллекта Аллена определяет исследования здравого смысла для ИИ, как приоритетную задачу. Проводятся исследования по использованию здравого смысла в компьютерном зрении, робототехнике, использовании когнитивной психологии в развитии систем ИИ, разрабатываются эталонные показатели для здравого смысла. Однако сегодняшние версии систем ИИ не приблизились к обладанию здравым смыслом в человеческом понимании. Так, исследователь ИИ Г. Маркус в 2020 году провел эксперимент с GPT-2, задавая системе вопрос о результате простого действия ‑ положить в камин спички и дрова. GPT-2 не смог ответить на этот вопрос. В 2023 году продвинутая версия ChatGPT сформулировала ответ о производстве света, тепла и дыма. Но такой ответ по-прежнему не имеет отношения к здравому смыслу, поскольку основан на увеличении количества и разнообразия обучающих данных. Таким образом, рассуждения, которые не требуют усилий у человека, у ИИ основаны на формальной логике, которая не может охватить весь объем необходимых знаний. Даже простые логические связи могут приводить к проблемам. Например, некоторые взаимосвязи сохраняются всегда (человек глотает, когда ест), некоторые сохраняются эпизодически (человек ест в кафе), некоторые обозначают деятельность, человека, профессию и прочее. Поэтому до сих пор здравый смысл ИИ называют «темной материей».

Параллельно, специалист по ИИ Университета Вашингтона и Института Аллена, Й. Чой в статье «Загадочный случай здравого смысла», опубликованной в журнале Daedalus в 2022 году утверждает, что здравый смысл необходим людям, чтобы «жить и взаимодействовать друг с другом разумным и безопасным образом», а для системы ИИ для «понимания потребностей и действия людей».

Й. Чой возглавляет исследовательский проект Mosaic в Институте Аллена, который создает прототип системы здравого смысла и интуитивного мышления, основанный на языке. Существующие большие языковые модели обучаются генерировать слово, предложение или абзац создавая строгие последовательности. Для построения прототипа системы здравого смысла они не подходят, потому что человеческое познание далеко от последовательностей и требует гибких рассуждений о событиях, которые могли происходить не последовательно. В частности, контрфактические рассуждения, которые предполагают рассмотрение возможных альтернатив уже произошедшему событию и абдуктивные рассуждения, то есть поиск наиболее простого объяснения для определенного наблюдения. Например, Конан Дойль ошибочно писал о дедуктивных рассуждениях Шерлока Холмса. На самом деле, известный персонаж использовал абдуктивные рассуждения для создания неочевидных гипотез.

В рамках исследований ИИ на основе здравого смысла, Й. Чой и ее коллеги разработали ряд инновационных языковых систем, таких как ATOMIC ‑ набор текстовых описаний правил здравого смысла и фактов о повседневных объектах и событиях, а также новые алгоритмы вывода, которые могут гибко включать непоследовательный характер интуитивных рассуждений. Вместе с тем, Й. Чой полагает, что решения находятся на начальном этапе разработок. Остается много открытых вопросов, включая вычислительные механизмы для обеспечения согласованности и интерпретируемости знаний и рассуждений на основе здравого смысла, репрезентативную интеграцию между языком и восприятием для мультимодальных рассуждений, новые парадигмы обучения для абстракций и аналогий и методы интерактивного непрерывного обучения.

Для решения этих вопросов и дальнейшего развития направления необходимо использовать идеи когнитивной психологии и психологии развития. В частности, Д. Канеман предлагал рассматривать разум как две разные системы мышления.

Первая ‑ интуитивная бессознательная быстрая, не требующая усилий. Она создает связанную историю, основанную на восприятии происходящего вокруг. Пробелы заполняются за счет обширных знаний здравого смысла о физическом мире и поведении людей. Воспринимая событие, разум развивает интуитивные истории, включая причины события, последствия, мотивы и эмоциональное состояние участников события. Однако, быстрые и простые связи для событий могут быть неверны и приводить к ошибкам.

Вторая – это логичная, медленная требующая усилий часть разума. Она предлагает оценивать события и выбирать между различными вариантами. Эта система используется для чтения, написания статей, решения головоломок, математических задач. При этом, здравый смысл формируется эволюционным путем и социальным контекстом. Профессор психологии Калифорнийского университета в Беркли Э. Гопни полагает, что способность детей обучаться быстрее и лучше ИИ заключается в построении моделей и теорий мира. Так, дети не могут научиться играть в шахматы, но у них развиваются представления о физике в самом раннем возрасте, а несколько иллюстраций могут рассказать о мире животных.

Одна из ключевых трудностей в области ИИ заключается в отсутствии способности думать, учиться и понимать, как устроен мир на уровне ребенка. Это требует развития навыков обобщения, любопытства и экстраполяции за пределами обучающих данных.