Политический аспект понятия «открытого» ИИ

Время на прочтение: 2 мин

Открытый исходный код выполняет различные задачи и используется в различных отраслях. Однако проецирование открытости на ИИ требует переосмысления.

Так, в статье «Открытость (для бизнеса): большие технологии, сконцентрированная власть и политическая экономия открытого ИИ», авторы рассматривают системы ИИ не как традиционное программное обеспечение, а как системы, требующие специальных и дорогостоящих ресурсов, которые принадлежат ограниченному числу крупных технологических компаний. Стандарты с открытым исходным кодом обеспечили стремительный рост сети Интернет, и инициативы по распространению Linux. Однако применительно к ИИ эта тенденция имеет другую направленность. В статье отмечается, что открытость ИИ – это сложное понятие для определения. Это связано с тем, что нет четкого и общепринятого понятия ИИ и термина открытости применительно к ИИ. Термин «открытость» в парадигме ИИ может интерпретироваться в нескольких проекциях:

как атрибут прозрачности, то есть возможность доступа и проверки исходного кода, документации и данных;

как атрибут повторного использования, то есть лицензирование и возможность повторного использования третьими лицами;

как атрибут расширяемости, то есть возможность настраивать готовые модели для конкретной цели. Вместе с тем, «открытость» имеет несколько уровней доступа. Так, например, в системах ИИ, которые предлагают прозрачность, повторное использование и масштабируемость отсутствуют ресурсы для создания систем ИИ с нуля. Это означает, что большие масштабируемые системы остаются закрытыми.

В статье «Градиент выпуска генеративного ИИ: методы и соображения» определены шесть уровней открытости в системах генеративного ИИ: полностью закрытый; поэтапный доступ; хостинговый доступ; облачный доступ или доступ через API; загружаемый доступ; и полностью открытый. Авторы отмечают, что языковые модели с менее чем шестью миллиардами параметров обычно открыты, но более мощные модели от крупных компаний имеют тенденцию быть закрытыми.

Открытый ИИ способен обеспечить прозрачность, возможность повторного использования, масштабируемость и формирование стандартов аудита и контроля. Однако, «открытость» не гарантирует демократического доступа к ИИ и конкуренции в этой области. Наоборот, «открытость» способствует доминированию крупных компаний и расширению рыночной власти с целью установления стандартов развития и регулирования отрасли и извлечения выгоды из труда разработчиков открытых систем. Авторы отмечают закрытость среди крупных компаний для мощных систем. При этом, отмечают возможности крупных компаний извлекать выгоду из доступа разработчиков к исходному коду в открытых системах, который позволяет провести тщательное изучение, что снижает вероятность появления встроенных лазеек и/или троянских коней. Кроме того, модель с открытым исходным кодом увеличивает количество программистов, которые ищут ошибки в программном обеспечении и впоследствии разрабатывают их исправления, уменьшая потенциальные области для использования злоумышленниками.

Параллельно, за счет алгоритмического формирования цифровой коммуникационной среды происходит ухудшение политического дискурса. Это связано с формированием регуляторной риторики и лицензирования, увеличением ложной информации в мировом масштабе, алгоритмическим стимулированием политических конфликтов и возможной монополизацией рынка ИИ.