QR-коды могут бороться с дипфейками

Время на прочтение: 3 мин

В июле 2022 г. научный сотрудник кафедры электроники и информатики Университета Беркли (Калифорния) Э. Критч опубликовал статью о возможностях применения QR-кодов для борьбы с дипфейками.

С помощью технологии дипфейков можно объединять, комбинировать, заменять и накладывать друг на друга изображения, создавая таким образом контент, который практически невозможно отличить от подлинного. Эти технологии позволяют генерировать юмористические, политические или порнографические видео, в которых один человек говорит что-либо без согласия другого, чей голос и образ задействован. Ключевая проблема заключается в масштабе и сложности выявления дипфейка. Каждый, кто имеет персональный компьютер, может сгенерировать видео, не оставляя следов манипуляций. При этом дипфейки, по мнению автора, будут эволюционировать в сторону использования с целью издевательств, мести, подделки видеодоказательств в суде, политических диверсий и террористической пропаганды.

В условиях растущего распространения дипфейков автор предлагает продвигать инструменты самоаутентификации на основе QR-кодов. Это позволит пользователям проверить согласованность подписей и видео и установить достоверность участника в видеоконтенте без привлечения распространителя контента. Использование QR-кодов обусловлено тем, что в настоящее время криптографически безопасные цифровые подписи применяются только распространителями контента, а не участниками. Автор предлагает использовать простой протокол WordSig, который позволит участникам видео ставить цифровую подпись.

Идея автора состоит в использовании собственного мобильного устройства пользователя для самоидентификации в видео с помощью цифровой подписи своих слов и отображении подписей в виде QR-кодов. QR-коды генерируются пользователем и могут быть проверены с помощью его открытого ключа. Таким образом, пользователь может идентифицировать себя независимо от третьих лиц, создающих видеоконтент, или платформ, его распространяющих.

Предложенный автором метод дополняет подходы по обнаружению дипфейков после их создания. Способы обнаружения дипфейков постфактум не успевают за разработками более эффективных методов генерации контента. В свою очередь, применение WordSig является упреждающим подходом, который основан на криптографических методах, которые не поддаются подделке с точки зрения вычислений.

Вместе с этим, этот метод только частично решает проблему дипфейков. В частности, если фейковые видео производятся специально с целью обвинения других людей, QR-код, как способ добровольной самоидентификации, не будет применяться. В этом случае могут применяться методы обнаружения постфактум. Также автор считает, что со временем общественные деятели должны иметь привычку всегда идентифицировать себя с WordSig или ему подобными технологиями для важных публичных заявлений.

В качестве примера работы алгоритма WordSig автор демонстрирует его работу (см. Рис.1).

Алгоритм записи потока кода WordSig связывает устный контент с подписанным контентом и нивелирует возможность копирования и вставки слов из контекста.

Структура QR-потока представляет собой хранение открытого ключа вместе с именем, которое ему присвоено, с дополнительными кодами, где каждый новый код кодирует строку произнесенного текста вместе с подписью для предыдущей строки. Например, в рамках алгоритма на устройстве пользователя, записывающего видео, происходит присвоение имени и потоковая передача по контексту следующим образом:

пользователь говорит в свое мобильное устройство и показывает его экран на видеокамеру. На входе алгоритма формируется поток произнесенных и сгруппированных в двухсекундные сегменты слов, секретный ключ, который хранится на мобильном устройстве, и сертификат открытого ключа, подписанный закрытым ключом. На выходе формируется поток QR-кодов, которые удостоверяют слова с помощью закрытого ключа.

В рамках алгоритма на устройстве пользователя, смотрящего видео с QR-кодом, происходит проверка потока QR-кодов и сертификата в базе данных сертификатов. Имя текста должно соответствовать сертификату, подпись сертификата должна соответствовать имени сертификата, сертификат не может быть отозванным, подпись должна соответствовать словам и сертификату. В случае любого несоответствия видео помечается как фейк.

По мнению автора, аутентификация или опровержение особенно важны для общественно-значимых заявлений государственных деятелей. Например, на пресс-конференциях, в местах, где разные информационные агентства записывают одну и ту же сцену. Однако, автор отмечает, что это также повлияет на государственный и частный лоббизм, а наиболее выгодно использование WordSig для самоаутентификации знаменитостей.

Вместе с очевидными достоинствами WordSig имеет ряд недостатков, которые требуют доработки или сочетания с другими методами. В частности, аутентификация всего видео, а не только произнесенных и подписанных слов, не гарантирует достоверность видео. Например, если в аутентифицированном видео начальник полиции, указывая на стоящего рядом человека, говорит, что он не беглец без указания его имени и фамилии, то человек в видео может быть заменен на любого другого человека, а подпись под видео будет достоверной. В данном конкретном случае необходимо произнести фамилию и имя человека, так как учитываются только произнесенные слова. Кроме этого, необходимо развивать сети центров сертификации для приложения WordSig, аналогично центрам сертификации https. Мобильные устройства должны автоматически предлагать проверить подлинность с помощью WordSig.

В целом, предложенная технология цифровой подписи слов в видео может рассматриваться в совокупности методов защиты от распространения дипфейков и защиты идентичности. Аналогичные технологии могут быть разработаны для аутентификации официальных сообщений политических и правительственных заявлений, что значительно сократит информационные спекуляции.