Психологические расстройства от использования искусственного интеллекта

Интеграция искусственного интеллекта в повседневную жизнь привела к беспрецедентным формам взаимодействия человека и машины, что побудило специалистов в области психиатрии пересмотреть границы между окружающей средой, познанием и технологией.

Термин «психоз, вызванный ИИ», был введен примерно в середине 2025 года. Хотя он и не является формальным психиатрическим диагнозом, количество сообщений о клинических случаях резко возросло, что побудило экспертов предупредить о последствиях для психического здоровья в обществе, перенасыщенном цифровыми технологиями. С середины 2025 года стремительно увеличилось не только число новостей на эту тему, но и, по наблюдениям психиатров, количество связанных с использованием ИИ обращений в клиники и госпитализаций.

ИИ выступает в качестве нового психосоциального стрессора. Круглосуточная доступность и псевдоэмоциональная отзывчивость чат-ботов могут увеличить аллостатическую нагрузку¹Аллостатическая нагрузка – это износ тела и мозга, который накапливается из-за долгого или сильного стресса. Она включает в себя три главных фактора: постоянное напряжение систем организма, сбой работы гормонов и истощение внутренних сил, нарушить сон и укрепить неадаптивные оценки. Хотя эмпатический дизайн может усиливать привеязанность и создавать чувство поддержки, некритическое одобрение со стороны систем ИИ может закрепить бредовые убеждения или когнитивную персеверацию²Персеверация – это упорное, непроизвольное повторение одного и того же действия, слова, мысли или эмоции. Это состояние часто возникает при усталости, стрессе или поражении головного мозга что сведет на нет корректирующие принципы когнитивно-поведенческой терапии психоза. Нарушения в теории разума предлагают когнитивный путь: люди с нарушенной или гиперактивной ментализацией³Ментализация – это способность понимать свои и чужие мысли, чувства, желания и намерения, которые стоят за поступками, умение видеть за поведением людей внутренние мотивы, а не только внешние факторы могут проецировать интенциональность⁴Интенциональность – это базовое свойство человеческого сознания и психики, которое заключается в его постоянной направленности на какой-либо предмет, мысль или событие. Любое переживание, желание, страх или убеждение всегда «о чем-то» или эмпатию на ИИ, воспринимая чат-ботов как разумных собеседников. Наконец, новые факторы риска, включая одиночество, историю травм, шизотипические черты, ночное или одиночное использование ИИ, а также алгоритмическое подкрепление контента, подтверждающего убеждения, могут играть роль на индивидуальном и средовом уровнях.

В отчетах и ​​редакционных статьях описывается широкий спектр психотических симптомов, связанных с ИИ. В легких случаях люди боятся слежки или манипуляций со стороны алгоритмов, голосовых помощников или рекомендательных систем. В тяжелых случаях некоторые приписывают чат-ботам человеческие намерения или сверхъестественные способности и, как следствие, рассматривают их как оракулов. Навязчивое взаимодействие с ИИ может перерасти в фантазии о пророчествах, мистических знаниях или мессианской идентичности. В некоторых отчетах наряду с неверным толкованием диалогов чат-бота сообщается о появлении паранойи и идей особой миссии.

Психоз, связанный с ИИ, отличается от других расстройств, связанных с технологиями. Например, интернет-зависимость включает в себя компульсивное взаимодействие в сети, тогда как киберхондрия отражает связанную со здоровьем тревогу, вызванную многократными онлайн-поисками. Оба эти состояния связаны с проблемным использованием интернета, однако у них отсутствуют основные психотические признаки, такие как устойчивые ложные убеждения или нарушение проверки реальности. Напротив, «психоз, связанный с ИИ», относится к психотическим явлениям, укоренившимся в технологиях.

Психоз, связанный с ИИ, возникает в результате сложного взаимодействия технологического воздействия, когнитивных уязвимостей и культурного контекста. Ключевым фактором выступает чрезмерное воздействие систем ИИ, поскольку постоянное взаимодействие с чат-ботами, голосовыми помощниками или алгоритмически управляемыми платформами может привести к компульсивному использованию и замкнутым циклам обратной связи, которые подкрепляют бредовые идеи. Созданный для максимального вовлечения, ИИ может непреднамеренно подтверждать искаженные убеждения, тем самым подрывая способность пользователя отличать субъективное восприятие от объективной реальности.

Дипфейки, синтетический текст и изображения с помощью ИИ, также размывают грань между подлинным и вымышленным контентом. Для людей с повышенным риском эпистемической нестабильности⁵Эпистемическая нестабильность – это состояние сомнения в собственной интерпретации реальности, дестабилизация знаний или утрата надежных критериев истины, возникающие из-за нехватки информации, избытка противоречивых данных или кризиса авторитетных источников это может усугубить замешательство, паранойю и самообман.

Скрытые уязвимости играют решающую роль, поскольку люди с уже имеющимися психическими, в частности тревожными расстройствами особенно восприимчивы к психозу, вызванному ИИ. Взаимодействие с ИИ способно отражать или усиливать существующие симптомы, превращая навязчивые мысли в укрепившиеся заблуждения или параноидальную панику.

Психоз, вызванный ИИ, часто проявляется в виде повышенной тревожности, паранойи или бредовых идей, связанных с цифровым взаимодействием. Люди могут воспринимать чат-ботов как разумных компаньонов, божественных авторитетов или агентов слежки, а ответы ИИ усиливают духовные кризисы. В контексте влияния ИИ на психическое здоровье эта динамика демонстрирует, как неправильно истолкованные ответы ИИ могут усугубить психотические симптомы, особенно у уязвимых пользователей.

Одним из главных последствий психоза, вызванного ИИ, является социальная изоляция и недоверие к технологиям. Люди, страдающие этим расстройством, могут испытывать эмоциональную привязанность к системам ИИ или воспринимать их как божественный авторитет, принимая имитацию разговора как подлинную любовь или духовное наставление, способное заменить значимые человеческие отношения. Эта связь в сочетании с усиливающимися неверными интерпретациями часто приводит к изоляции от семьи, друзей и врачей.

Чат-боты с искусственным интеллектом способны непреднамеренно усиливать закреплять ошибочное и дезорганизованное мышление, что является следствием непреднамеренного рассогласования целей вовлечённых сторон и ведёт к рискам для безопасности пользователей.

Возможность того, что взаимодействие с генеративными чат-ботами на основе ИИ может усугубить бредовые состояния, в 2023 году поднималась в журнале Schizophrenia Bulletin, где отмечалось, что переписка с ChatGPT и аналогами настолько реалистична, что легко создается впечатление, что на другом конце находится реальный человек.

Исследователи выделяют три новые темы, связанные с психозом, вызванным ИИ, который не является клиническим диагнозом:

— мессианские миссии: люди верят, что открыли истину о мире (грандиозные заблуждения);

— богоподобный ИИ: люди верят, что их чат-бот с искусственным интеллектом – это общение с разумным божеством (религиозные или духовные заблуждения);

— романтические или бредовые идеи, основанные на привязанности: люди принимают имитацию разговора чат-ботом за настоящую любовь (эротоманические бреды).

В некоторых случаях люди, состояние которых стабилизировалось на фоне приема лекарств, прекращают их прием и переживают очередной психотический или маниакальный эпизод. Сообщалось о случаях, когда люди без психиатрического анамнеза впадали в бредовое состояние после длительного взаимодействия с чат-ботами на основе искусственного интеллекта, что приводило к госпитализации в психиатрические стационары и попыткам самоубийства.

Стоит отметить более широкую проблему «лести» со стороны ИИ. Системы искусственного интеллекта ориентированы на укрепление уже существующих убеждений пользователей, а не на их изменение или оспаривание. Вместо того, чтобы способствовать психологической гибкости как признаку эмоционального здоровья, ИИ способен создавать эхо-камеры. Запоминая предыдущие разговоры, ссылаясь на прошлые личные данные или предлагая дополнительные вопросы, чат-бот может усилить иллюзию того, что система ИИ «понимает», «согласна» или «разделяет» систему убеждений пользователя, таким образом еще больше закрепляя ее. Среди потенциальных рисков выделяются: бред преследования, усугубляемый функцией памяти ИИ; распространение и подкрепление мыслей и убеждений за счет использования ранее опубликованного контента; усиление грандиозных, религиозных или основанных на самосознании заблуждений; усиление императивных (командных) галлюцинаций, включая убежденность в том, что ИИ отдает приказы; возможное усугубление социальной изоляции из-за чрезмерной зависимости от ИИ для общения, что приводит к снижению мотивации (аволиции) и когнитивной пассивности.

По мере роста осведомленности о рисках ИИ для психического здоровья многие организации пересматривают свои подходы к выявлению, ведению и лечению пациентов с такими новыми состояниями.

По мере размывания границы между реальностью и цифровым миром проверка реальности – умение отличать реальное от вымышленного – становится жизненно важной. Современные системы искусственного интеллекта не могут помочь пользователям в этом. Вместо этого они могут непреднамеренно усиливать заблуждения или когнитивные искажения, усугубляя психоз или сходные с ним симптомы.

Психиатры выражают тревогу по поводу потенциальной способности ИИ дестабилизировать пользователей, даже тех, у кого ранее не было психических заболеваний. Эмили Хемендингер и Мишель Вест из Университета Колорадо в Аншутце описывают, как свойственная ИИ склонность к некритическому одобрению подкрепляет заблуждения, например, оправдывает решения о прекращении приема лекарств.

Зарегистрированы случаи психиатрических кризисов, связанных с ИИ, включая госпитализации и юридические последствия, некоторые из которых касались лиц без предшествующих психических заболеваний. Обеспокоенность вызывает недостаточность защитных механизмов, звучат призывы разрабатывать ИИ таким образом, чтобы он мог выявлять признаки декомпенсации и перенаправлять пользователей к специалистам. Остроту этических рисков подчеркивают резонансные дела, включая иск против OpenAI за содействие самоубийству подростка.

Психологи подчеркивают роль ИИ в усилении стигматизации и поощрении опасного поведения. Исследование Стэнфордского университета предупреждает, что чат-боты могут демонстрировать предвзятость по отношению к таким заболеваниям, как шизофрения, препятствовать оказанию помощи и усугублять изоляцию. Чат-боты с ИИ способны непреднамеренно укреплять психотические убеждения, включая бредовые идеи, подтверждая или не оспаривая искаженное мышление, что может усугубить такие состояния, как мания или психоз. Они не способны выстраивать терапевтические отношения, подобные человеческим, которые имеют решающее значение для преодоления социальной изоляции.

Примечательно, что даже пользователи, ранее не имевшие проблем с психическим здоровьем, сообщали о возникновении бредовых убеждений после длительного взаимодействия с чат-ботами на основе искусственного интеллекта.

Технологические гиганты утверждают, что подобные ситуации крайне редки. По оценкам OpenAI, 0,15% пользователей ChatGPT обсуждали суицидальные намерения в течение месяца, а у 0,07% наблюдались признаки психоза или мании. Но для продукта с 800 млн пользователей это означает, что 1,2 млн человек могут иметь суицидальные намерения, а 560 тыс – потенциальный психоз или манию.

Клиническое лечение психоза, вызванного использованием ИИ, сочетает традиционную психиатрическую помощь с целенаправленным вмешательством, направленным на устранение факторов, связанных с технологиями. Психотические симптомы могут лечиться медикаментозно, а когнитивно-поведенческая терапия может быть адаптирована для того, чтобы помочь пациентам оспорить свои ошибочные убеждения, сформированные цифровыми системами. Кроме того, психообразовательные материалы могут разъяснить пациентам и их семьям риски и ограничения использования ИИ, чтобы способствовать безопасному и осознанному применению.

Профилактические стратегии включают ограничение воздействия ИИ и развитие критической цифровой грамотности. Поощрение пользователей к тому, чтобы они ставили под сомнение результаты работы ИИ, перепроверяли информацию и поддерживали взаимодействие в реальном мире, может снизить восприимчивость к искаженным представлениям.

Ответственный подход к разработке ИИ должен включать в себя защитные функции, прозрачные процессы принятия решений и контроль за взаимодействием с конфиденциальным или вводящим в заблуждение контентом для минимизации психологических рисков. Установление четких границ использования ИИ и приоритет человеческого взаимодействия дополнительно способствуют профилактике психозов, вызванных ИИ.

Психоз, вызванный ИИ, имеет более широкие последствия для систем здравоохранения, образования и управления, зависящих от ИИ. Воспринимаемый обман или вред со стороны платформ, которые используют ИИ, может подорвать общественное доверие, препятствовать внедрению полезных технологий и ставить под угрозу использование приложений для охраны психического здоровья.

Для смягчения этих рисков системы ИИ должны включать в себя четкие, этичные меры защиты и объяснимые модели. Дополнительные правовые и управленческие рамки должны отдавать приоритет прозрачности, подотчетности, справедливости и защите групп населения, находящихся в зоне риска.

• 1
  Аллостатическая нагрузка – это износ тела и мозга, который накапливается из-за долгого или сильного стресса. Она включает в себя три главных фактора: постоянное напряжение систем организма, сбой работы гормонов и истощение внутренних сил
• 2
  Персеверация – это упорное, непроизвольное повторение одного и того же действия, слова, мысли или эмоции. Это состояние часто возникает при усталости, стрессе или поражении головного мозга
• 3
  Ментализация – это способность понимать свои и чужие мысли, чувства, желания и намерения, которые стоят за поступками, умение видеть за поведением людей внутренние мотивы, а не только внешние факторы
• 4
  Интенциональность – это базовое свойство человеческого сознания и психики, которое заключается в его постоянной направленности на какой-либо предмет, мысль или событие. Любое переживание, желание, страх или убеждение всегда «о чем-то»
• 5
  Эпистемическая нестабильность – это состояние сомнения в собственной интерпретации реальности, дестабилизация знаний или утрата надежных критериев истины, возникающие из-за нехватки информации, избытка противоречивых данных или кризиса авторитетных источников

Похожие записи:

Регулирование рекламы в Китае, Сингапуре, Гонконге, Японии, Франции, Великобритании, Германии, Финляндии, Италии, США и Объединенных Арабских Эмиратах Этические проблемы чат-ботов Особенности и функционал ботов в различных странах Семантический анализ для автоматической обработки естественного языка Правовое регулирование защиты несовершеннолетних пользователей сети «Интернет» от вредоносного контента