Контент после смерти
Компания Meta (запрещена в России) запатентовала технологию искусственного интеллекта, которая будет продолжать публиковать контент от имени человека после его смерти.
Технология будет анализировать все доступные данные за прошлые периоды, чтобы создать цифрового персонажа, который будет вести себя так, как будто умерший все еще пользуется онлайн-платформами Meta. Технология также сможет имитировать аудио- или видеозвонки, не требуя никакого участия от человека, на основе которого она создана. Она также сможет ставить лайки, оставлять комментарии и реагировать на другой контент в Интернете.
Система обучает ИИ на основе публикаций, комментариев, чатов, голосовых сообщений и отметок «нравится» пользователя, а затем запускает бота для ответа на новостные ленты, личные сообщения и даже имитированные аудио- или видеозвонки. В патенте указано: «Языковая модель может использоваться для имитации пользователя в случаях отсутствия пользователя в сети, например в случае длительного перерыва или смерти.
Количество пользователей Facebook (запрещен в России) не увеличивается, и, по всей видимости, компании нужна вся возможная вовлеченность аудитории. К 2050 году число умерших пользователей Facebook превысит число живых. К 2100 году на платформе может насчитываться более 4,9 миллиарда мертвых профилей.
Ранее у компании уже были «пользователи» с искусственным интеллектом: по сообщениям, они запустили пилотный проект в конце 2024 года, к неудовольствию пользователей-людей.
Стоит отметить, что, если компания внедрит эту технологию, это будет отступлением от её собственной политики увековечивания памяти, которая сохраняет учетные записи без изменений. Политика компании гласит: «После установки памятного статуса над именем пользователя в профиле появляется надпись «Светлая память» для обозначения того, что аккаунт теперь является памятным местом. Памятный статус аккаунтов помогает создать место, где люди могут почтить память своих близких, а также защищает от попыток входа в систему под чужим аккаунтом и мошеннических действий. Мы стремимся сохранить аккаунт без изменений после смерти пользователя в знак уважения к выбору, который он сделал при жизни.
Другие компании также рассматривали и тестировали подобные системы. В 2020 году Microsoft запатентовала чат-бота, который позволял общаться с ИИ-версиями умерших людей. Генеральный менеджер Microsoft по ИИ назвал это «тревожным», и система так и не была запущена в производство. В 2022 году Amazon продемонстрировала Alexa, которая имитирует голос умершей бабушки, используя менее минуты аудиозаписи, позиционируя это как сохранение воспоминаний. Эта технология также не была запущена из-за разногласий.
Препятствием на пути развития Meta также могут быть юридические вопросы. Для подобной технологии нет единой нормативной базы. В нескольких штатах Америки признается право на публичное использование образа умершего после смерти, хотя такие штаты, как Нью-Йорк, ограничивают это лицами, чьи голоса и изображения имеют коммерческую ценность (обычно это знаменитости). Однако калифорнийский законопроект направлен против созданных ИИ изображений умерших.
Трудности могут возникнуть также с европейским законодательством. Общий регламент ЕС по защите данных исключает данные умерших лиц, однако статья 85 французского закона о защите данных позволяет любому человеку оставлять инструкции относительно хранения, удаления и передачи своих персональных данных после смерти. Статья Закона ЕС об искусственном интеллекте также требует от систем искусственного интеллекта раскрывать информацию о том, что они являются искусственным интеллектом, при этом компании, не соблюдающие требования, будут оштрафованы на сумму до 15 миллионов евро11 365 421 500 руб или 3% от мирового оборота.
Существует также этические проблемы. Часто то, что люди пишут в личных сообщениях близким друзьям или любимым людям, не предназначено для более широкого распространения. Помимо этого, ИИ отличается от людей, в том числе незнанием правил этикета в обществе, и отсутствием понимания социального конструкта, когда молчание или ложь во спасение бывает важнее правды.
Согласно новому исследованию Кембриджского университета, зарождающаяся индустрия «цифровой загробной жизни» может нанести серьезный психологический вред скорбящим, если ее не контролировать.
Эксперты также отмечают, что у людей могут развиться сильные эмоциональные связи с такими симуляциями, поэтому важно разработать надлежащие протоколы для прекращения взаимодействия пользователей с симуляциями на основе ИИ таким образом, чтобы обеспечить эмоциональное завершение.
Эдина Харбинья, профессор юридического факультета Бирмингемского университета, выражает обеспокоенность по поводу патента. Она считает, что он затрагивает не только юридические вопросы, но и множество очень важных социальных, этических и глубоко философских вопросов. Она также отметила, что постоянное взаимодействие на платформах создает явные коммерческие стимулы для компаний.
Доктор Томаш Холланек, соавтор исследования Кембриджского университета о потенциальном влиянии цифровых реконструкций умерших людей считает крайне важным, чтобы цифровые сервисы, предоставляющие услуги по воссозданию загробной жизни, учитывали права и согласие не только тех, кого они воссоздают, но и тех, кому придётся взаимодействовать с этими симуляциями.
Профессор социологии Университета Вирджинии Джозеф Дэвис считает, что одна из задач скорби – это смириться с реальной утратой. «Мертвые должны оставаться мертвыми».
Таким образом, использование технологии может принести близким умершего человека больше проблем, чем реальной пользы.
- 11 365 421 500 руб
