Возможности и вызовы открытого ИИ
В исследовании фонда Linux «Объединимся против общих вызовов», опубликованном в декабре 2023 года, открытый исходный код рассматривается как важный драйвер технологических и общественных инноваций, способный преобразовать мировую индустрию программного обеспечения.
В основе исследования лежат тезисы Конгресса по проблемам открытого исходного кода, который проходил под эгидой фонда Linux в июле 2023 года в Женеве. В рамках Конгресса обсуждались такие аспекты открытого исходного кода, как защита инфраструктуры открытых источников, обеспечение совместимости новых нормативных положений с принципами и практиками, исследование возможностей сотрудничества в области ИИ. Ключевая проблема заключается в степени изменений в открытых кодах при их применении к ИИ. Здесь необходима согласованность в определении открытого ИИ и выявлении проблем, связанных с генераторами кода для лицензирования, безопасности и интеллектуальной собственности. Кроме этого, участники Конгресса обсудили вопросы социальных последствий ИИ и роль сообщества по открытым исходным кодам в решении проблем предвзятости, конфиденциальности и экзистенциальных угроз.
В части, касающейся ИИ, в исследовании выделены следующие ключевые проблемные аспекты. Среди них:
открытость ИИ – это больше, чем доступ к исходному коду. Это связано с тем, что определение ПО с открытым исходным кодом (далее – OSS) формировалось в течение двадцати пяти лет и подразумевает не только открытость, возможность изменений и улучшений, но и свободное распространение, производные работы и распространение лицензии. В отношении ИИ действуют другие правила, в связи с отличием систем ИИ от традиционных программ. Это связано с недостатком прозрачности, обусловленным огромным количеством параметров, которые делают невозможной оценку вклада отдельных узлов в конечное статистическое решение, которое может понять человек. С другой стороны, с проблемой объяснимости, которая повышает надежность и безопасность в решениях, меняющих жизнь человека, включая диагностику, одобрение кредита и пр. Однако сложность заключается в понимании архитектуры моделей, весов для переменных, типа данных. Чем сложнее система, тем труднее определить путь конкретного решения;
генерируемый ИИ код приведет к проблемам в области лицензирования, безопасности и регулирования. Согласно исследованию McKinsey «Экономический потенциал генеративного ИИ» может повысить производительность разработки ПО на 20-45% от текущих расходов на эту сферу. Такие улучшения связаны с сокращением времени на задачи кодирования, и могут, по оценкам GitHub, увеличить ВВП на 1,5 трлн долл. к 2030 году. Однако растущее использование генераторов ИИ создает сложности в области определения происхождения кода и приводит к невозможности определить схему лицензирования, рискам непреднамеренного злоупотребления патентованным или лицензированным кодом и потенциальным нарушениям;
системные риски ИИ требуют быстрого реагирования исходного кода. К ключевым системным рискам относятся предвзятость и дискриминация. Несмотря на то, что большие языковые модели становятся более способными, они склонны к смещениям и отражению токсичности в данных, на которых они обучаются. По данным инициативы AIAAIC (AI, Algorithmic, and Automation Incidents and Controversies), количество сообщений об инцидентах увеличилось в 2021 году в 26 раз по сравнению с 2012 годом. Увеличение инцидентов свидетельствует о влиянии ИИ на реальный мир и растущем понимании, каким образом можно его использовать в противоправных целях. Возможность экзистенциальных угроз рассматривается в исследовании в большей степени с точки зрения спекуляций и споров;
В заключение следует отметить, что авторы исследования, в соответствии с американской экономической моделью, считают открытость ИИ наиболее приемлемым способом устранения рисков ИИ. Соблюдение этических принципов для компаний, которые монетизируют технологии ИИ – это разумное решение, которое обеспечит благосостояние общества и гармоничное соотношение систем ИИ с человеческими ценностями.
