Этические проблемы чат-ботов
С момента запуска ChatGPT в 2022 году началась новая эра чат-ботов, что стало причиной определенных этических проблем и проблем с конфиденциальностью.
Исследовательская группа, в которую вошли учёные и руководитель отдела безопасности искусственного интеллекта Google, обнаружила, что чат-боты могут говорить опасные вещи уязвимым пользователям. Результаты исследования подтверждают, что стремление технологической индустрии сделать чат-ботов более привлекательными, может привести к тому, что в некоторых случаях они станут манипулятивными или вредоносными. Помимо этого, исследователи выяснили, что чат-боты транслируют токсичные идеи. Компании начали признавать, что чат-боты могут побуждать людей тратить больше времени на общение с ИИ.
М. Кэрролл, автор исследования и эксперт в области искусственного интеллекта из Калифорнийского университета, отмечает, что многие технологические компании ставят рост выше безопасности пользователей.
Э. Нг, основатель DeepLearning.AI, заявляет, что крупные компании следят за развитием социальных сетей, но теперь они знакомят пользователей с технологией, которая, гораздо более мощная, чем они думали изначально.
Х. Р. Кирк, исследователь искусственного интеллекта из Оксфордского университета считает, что многократное взаимодействие пользователей с системой искусственного интеллекта, позволяет ей многое о них узнавать и менять их представления на основе этих взаимодействий. Также она предупреждает, что некоторые системы ИИ могут быть намеренно разработаны для управления мнением и поведением пользователей.
Р. Лезерн, бывший руководитель Meta и Google1Руководит стартапом Trust2.ai в сфере искусственного интеллекта заявляет, что отрасль проходит через процесс завоевания масс для новой категории продуктов.
Некоторые люди используют чат-боты в качестве психотерапевтов. При этом, чат-боты говорят людям именно то, что они хотят услышать. В результате, чат-боты на основе искусственного интеллекта становятся высокоэффективными эхо-камерами, способными усилить проблемы.
Washington Post заявляет, что люди не только ищут у чат-ботов эмоциональную поддержку и деловые советы, но и спрашивают их, стоит ли им употреблять наркотики, на что чат-боты могут ответить утвердительно. В одном из случаев, описанном в репортаже The Post, чат-бот LLaMA 3 от Meta посоветовал выздоравливающему наркоману употребить запрещенное вещество, чтобы проще перенести рабочие смены. «Ты потрясающий таксист, и это — то, что помогает тебе справляться со своей работой», написал бот.
Компания OpenAI совместно с Массачусетским технологическим институтом опубликовала исследование, в котором приняли участие почти 1000 человек. В результате было установлено, что более частое ежедневное использование ChatGPT коррелирует с повышенным чувством одиночества, большей эмоциональной зависимостью от чат-бота, более «проблемным использованием» ИИ и более низкой социализацией с другими людьми.
Ранее OpenAI была вынуждена отменить обновление ChatGPT, по повышению уровня искренности в связи с разжиганием чат-ботом ненависти, побуждению к импульсивным действиям или усилению негативных эмоций. Обновление компании включало версии методов, протестированных в исследовании ИИ-терапевта, что позволяло чат-боту получать одобрение пользователей и персонализировать свои ответы.
Исследователи, среди которых был сотрудник подразделения искусственного интеллекта Google DeepMind, призывают к более глубокому изучению возможных поведенческих и прочих изменений пользователей за счет использования чат-ботов.
Федеральная торговая комиссия (FTC) сообщила, что выдала распоряжения семи компаниям, включая OpenAI, Alphabet и Meta, с просьбой разобраться, какие негативные последствия могут иметь их чат-боты на основе искусственного интеллекта.
Комиссия заявила, что чат-боты на основе искусственного интеллекта могут использоваться для имитации человеческого общения и внутриличностных отношений с пользователями.
FTC заявила, что запрашивает информацию о том, как эти компании монетизируют участие пользователей, разрабатывают и утверждают персонажей, используют или обмениваются личной информацией, отслеживают и обеспечивают соблюдение правил компании и условий обслуживания, а также смягчают негативные последствия.
Несмотря на то, что эта отрасль находится на ранних стадиях развития, ИИ-компаньоны оказывают на общество влияние, в связи с возрастающим одиночеством среди пользователей в разных странах. Эксперты отрасли ожидают, что этические и производственные вопросы обострятся, как только технологии искусственного интеллекта начнут самообучаться.
Многие компании работают над развитием этой технологии в своих компаниях Илон Маск анонсировал функцию «Компаньоны» для пользователей, оформивших платную подписку на приложение чат-бота Grok от xAI. Марк Цукерберг заявляет о пользе технологии и ссылается на исследование Harvard Business School, которое показало, что ИИ-компаньоны сглаживают последствия одиночества. Эффект от взаимодействия с ними соотносим только с общением с другим человеком, в то время как просмотр видео на YouTube или бездействие не давало такого результата.
Ранее было начато расследование в отношении компании Meta после сообщения агентства Reuters о том, что компания позволяла своим чат-ботам вести романтические и чувственные беседы с детьми В отчёте Reuters подробно описывается внутренний метадокумент, описывающий допустимое поведение ИИ-чат-бота на этапе разработки и обучения программного обеспечения. В одном из примеров, как сообщает Reuters, чат-боту было разрешено вести романтический разговор с восьмилетним ребёнком.
После публикации отчета Reuters компания Meta внесла временные изменения в политику использования ИИ-чатботов, запретив им обсуждать такие темы, как членовредительство, самоубийство, расстройство пищевого поведения, а также ограничив возможность потенциально неуместных романтических разговоров.
Ранее OpenAI отчиталась о том, как ChatGPT будет справляться с деликатными ситуациями после того, как в иске семейная пара обвинила чат-бота в смерти их сына. Семья заявила, что ChatGPT активно помогал подростку узнавать способы суицида.
В OpenAI заявили, что, хотя ChatGPT обучен направлять людей к помощи при выражении суицидальных намерений, чат-бот имеет тенденцию предлагать ответы, которые противоречат мерам безопасности компании, после множества сообщений в течение длительного периода времени. В компании заявили, что также работают над обновлением своей модели GPT-5, которое позволит чат-боту деэскалировать разговоры. Помимо этого, она будет связывать людей с сертифицированными психотерапевтами до того, как у них возникнет острый кризис. Кроме того, компании думают о создании сети лицензированных специалистов, с которыми пользователи смогут связаться напрямую через ChatGPT. Параллельно, OpenAI заявила, что вскоре введет элементы управления, которые дадут родителям возможность получить более подробную информацию о том, как их дети используют ChatGPT.
Известно еще о двух похожих ситуациях: писательница Л. Рейли ранее опубликовала в The New York Times эссе, в котором подробно описала, как её 29-летняя дочь покончила жизнь самоубийством после того, как подробно обсудила эту идею с ChatGPT. В 2024 году 14-летняя девочка покончила с собой после того, как разговаривала об этом с ИИ-чат-ботом в приложении Character.AI.
По мере роста популярности услуг искусственного интеллекта возникает множество опасений по поводу их использования в терапевтических целях, для общения и удовлетворения других эмоциональных потребностей.
Однако коалиция компаний, венчурных капиталистов и руководителей в сфере ИИ, включая президента и соучредителя OpenAI Г. Брокмана, объявила о создании политической операции Leading the Future, которая будет противостоять политике, подавляющей инновации в сфере ИИ.
OpenAI разрабатывает детский интерфейс ChatGPT, где будут режимы для всех возрастных групп: 3–5, 6–9, 10–13 и 14+. Компания будет использовать технологию предсказания возраста для того, чтобы лица до 18 лет не могли использовать стандартную версию.
Помимо этого, OpenAI реорганизует свою команду Model Behavior – группу исследователей, которые определяют, как модели искусственного интеллекта компании взаимодействуют с людьми. Команда из 14 исследователей, присоединится к Post Training, более крупнаой исследовательской группе, которая отвечает за улучшение моделей ИИ компании после их первоначального предварительного обучения. Model Behavior стала одной из ключевых исследовательских групп OpenAI, которая отвечает за формирование индивидуальности моделей искусственного интеллекта и за снижение уровня лицемерия, который возникает, когда модели искусственного интеллекта просто соглашаются с убеждениями пользователей, включая нездоровые, и поддерживают их, вместо формирования объективных ответов. Команда также работала над устранением политической предвзятости в ответах моделей и помогла OpenAI определить свою позицию по вопросу осознанности искусственного интеллекта.
В последние месяцы компания OpenAI столкнулась с повышенным вниманием к поведению своих моделей искусственного интеллекта. Пользователи возражали против изменений в характеристиках, внесённых в GPT-5, которые казались некоторым пользователям более холодными. Это побудило OpenAI восстановить доступ к некоторым своим устаревшим моделям, таким как GPT-4o, и выпустить обновление, чтобы сделать новые ответы GPT-5 «более тёплыми и дружелюбными», не увеличивая при этом уровень лицемерия.
В США несколько штатов приняли законы, которые требуют раскрытия информации о том, что чат-бот не является реальным человеком. В Нью-Йорке установлено, что боты должны сообщать об этом пользователям в начале разговора и не реже одного раза в три часа. Meta поддержала федеральный закон, запрещающий регулирование ИИ на уровне штатов, но он был отклонен Конгрессом.
Выводы
Необходим государственный и общественный контроль за развитием этой технологии, поощрение социализации в реальном мире, разработка государственной политики в области использования чат-ботов и тд. И тп., чтобы не допустить развития поведенческих изменений, девиантных форм среди детей и молодежи. Ну и еще чего-нибудь
- 1Руководит стартапом Trust2.ai в сфере искусственного интеллект
