Проблемы и риски алгоритмической предвзятости

Время на прочтение: 2 мин

Алгоритмическая предвзятость относится к одной из серьезных проблем ИИ. Создаваемые ИИ систематически несправедливые результаты могут приводить к дискриминации или предубеждению в отношении определенных лиц или групп.

Это относится в большей мере к вопросам автоматизации рутинных задач, здравоохранению и др. К причинам появления алгоритмической предвзятости можно отнести:

смещенные обучающие данные. Предвзятости, существовавшие изначально в обучающих данных, могут воспроизводиться и усиливаться алгоритмами;

однообразие команд разработчиков. Однородные команды разработчиков могут не понимать различия в точках зрения в различных группах;

скрытые предубеждения разработчиков основаны на бессознательных предубеждениях, которые могут влиять на разработку или реализацию алгоритмов;

неполные и неадекватные данные содержат недостаточно информации, что приводит к неправильным прогнозам и решениям;

петли обратной связи предполагают закрепление и усиление существующих предубеждений.

Таким образом, алгоритмическая предвзятость оказывает значительное влияние на формирование несправедливости в обществе. Устранение и уменьшение алгоритмической предвзятости имеет важное практическое значение для использования и внедрения ИИ в различных областях. Для этого необходимо обеспечение разнообразных и репрезентативных обучающих данных; тщательный использование методов предварительной обработки для отбора обучающих данных; разработка инструментов обнаружения и смягчения предвзятости для обеспечения справедливых алгоритмических результатов; осуществление регулярных алгоритмических проверок для выявления и устранения предвзятостей; установление четких этических процедур и стандартов для разработки и внедрения ИИ; расширение междисциплинарного сотрудничества между заинтересованными сторонами для развития целостного подхода к устранению этих проблем.

В статье HBR «Устранение алгоритмической предвзятости – только начало пути к справедливому ИИ», авторы рассматривают предвзятость с точки зрения неравномерного распределения возможностей ИИ, которые могут усугубить социальное и экономическое неравенство по демографическим признакам. В статье предлагается рассмотреть способы, которыми ИИ меняет спрос на товары и услуги и распространяет неравенство.

Развитие технологий неразрывно связано с алгоритмической предвзятостью. В основном, это относится к здравоохранению, например, уменьшение объема медицинских услуг для определенных категорий лиц, уголовному правосудию и кредитному скорингу.

Развитие автоматизации снижает затраты на поставку определенных товаров и услуг. Это приведет к большей автоматизации одних рабочих мест, чем других. В частности, по данным статьи в США рабочие места с высоким риском автоматизации занимают афро- и латиноамериканцы. В этом случае речь идет не об алгоритмической предвзятости, а легких задачах, которые выгодно автоматизировать. Однако именно здесь наблюдается увеличение неравенства по демографическому признаку.

Изменение динамики спроса за счет мнения пользователей. Речь идет о влиянии интеграции ИИ на оценку товаров и услуг пользователями. Например, согласно статье, 60% американцев не хотят, чтобы в здравоохранении использовался ИИ для лечения и диагностики. Это может снизить спрос на такие услуги. Это также связано с тем, что использование ИИ-дополнений профессиональными сотрудниками снижает в глазах пользователей их опыт и знания. Согласно опросу HABR, взгляды на труд, дополненный ИИ, также достаточно сильно различаются. У 41% респондентов ИИ на рабочем месте вызывает сомнения и опасения; 31% выступает за интеграцию ИИ в рабочие места; 28% полагают, что есть риски и преимущества. Такое разнообразие мнений говорит об отсутствии единой ментальной модели ценности труда, дополненного ИИ.

Таким образом, минимизация алгоритмической предвзятости недостаточна для обеспечения интеграции в рыночные и общественные структуры. Сложные социальные процессы требуют отдельных решений. В частности, необходимости разрабатывать модели труда, дополненного ИИ для справедливого распределения выгоды. Например, авторы предлагают платформы продуктов и услуг, созданные с помощью ИИ, с обучением пользователей методам расширения ИИ. Сотрудничество промышленности, правительства и научного сообщества должно быть направлено на разработку новых стратегий для приоритетных ориентированных на человека выгод от использования ИИ.