Развитие ИИ замедляется из-за переизбытка синтетических и намеренно искаженных данных
Развитие чат-ботов зависит от качества данных, которые используются для их обучения, и это становится наиболее важным слабым местом в технологиях искусственного интеллекта. Эксперты обеспокоены тем, что крупные языковые модели все чаще обучаются на синтетических или намеренно ложных данных, что может иметь катастрофические последствия.
До сих пор индустрия ИИ базировалась на идее, что чем больше данных подается в модели, тем «умнее» они становятся. Это приносило результат, когда исследователи могли брать данные из Интернета для обучения больших языковых моделей.
Компании, занимающиеся искусственным интеллектом, нуждаются в данных. Обучение моделей пониманию многомерного мира требует значительно больше данных, которые также трудно получить. Это породило волну многомиллиардных стартапов, таких как Scale AI, Surge AI и Mercor, которые предоставляют услуги в области обработки данных для ИИ. Инженеры по машинному обучению прибегают к моделированию таких данных, что требует многочасовых виртуальных реконструкций реальных сценариев для создания данных, которые в конечном итоге будут использоваться для обучения. Обратной стороной медали стало появление значительного количества некачественных данных, которые вредят развитию моделей ИИ. Использование моделью некачественных данных ухудшает производительность, затягивает время выхода на рынок и может привести к непредсказуемым результатам.
Ранее OpenAI прекратила поддержку своего приложения для создания видео с использованием ИИ Sora. В основе лежала проблема некачественных данных, поскольку их модель не обладала достаточным пониманием физики, что препятствовало реалистичным видео.
Изображения, созданные ИИ, приобретают желтоватый оттенок. Эксперты считают, что эта склонность появилась от того, что большинство моделей ИИ обучаются на высококачественных фотографиях и киноматериалах. В Голливуде наиболее популярна цветокоррекция в оранжевом и бирюзовом оттенках, потому что она делает телесные тона более выразительными. Поэтому ИИ применяет этот метод ко всему по умолчанию.
Вторая причина – накопление ошибок: редактор изображений ChatGPT, обрабатывает изображения таким образом, что с каждым проходом они немного становятся «теплее». Помимо этого, многие фотографии в интернете используют подобные фильтры.
Системы генерации текста, такие как ChatGPT, Gemini и Claude, генерируют ответы, которые кажутся основанными на фактах, но содержат совершенно вымышленные источники, авторов, книги или ссылки на судебную практику, часто усиливая ложные или маргинальные аргументы.
Профессор финансов Лондонской школы бизнеса Алекс Эдманс утверждает, что растущее распространение информации приводит к тому, что всё больше публикаций исходит от авторов, цель которых – не распространение научных исследований, а маркетинг. Утверждения этих авторов о существовании множества факторов, влияющих на доходность инвестиций, призваны побудить читателя зайти на их страницы исключительно для того, чтобы продать ему услуги или навязать рекламу. Предвзятость подтверждения означает, что люди принимают мнение без критики, если оно подтверждает то, что они хотят считать правдой, даже если подтверждающие доказательства убедительны. Примером может служить ситуация, когда в начале 2020-х годов люди покупали акции компаний, занимающихся электромобилями, из-за вирусных постов, основанных на сомнительных доказательствах.
Саймон Гомес, руководитель отдела данных и инноваций в LGT Private Banking, заявляет, что генеративный ИИ снизил стоимость создания контента практически до нуля. Это приводит к постоянно растущему объему информации, которая может ввести инвесторов в заблуждение. Пробиться сквозь этот информационный шум становится все более сложной задачей. Создатели контента хотят, чтобы пользователи переходили по ссылкам на как можно больше страниц, поэтому они используют ИИ для добавления все большего количества постов, практически не обращая внимания на доказательства. Человеческий мозг постоянно рискует попасть в эти ловушки внимания.
Джатан Садовски, старший преподаватель Лаборатории исследований новых технологий в Университете Монаша в Мельбурне, называет эту потенциально фатальную уязвимость в инструментах ИИ «искусственным интеллектом Габсбургов», с отсылкой на некогда могущественную династию, где частые браки между родственниками приводили к генетическим отклонениям. Под габсбургским ИИ подразумевается создание моделей искусственного интеллекта с использованием инцестуозных методов, когда одна модель строится и обучается на основе данных, полученных от других моделей ИИ, а не на данных, созданных людьми. У таких инбредных1Инбредный — происходящий от скрещивания родственных особей – инбридинга систем выше вероятность наличия преувеличенных характеристик, неожиданных мутаций и других присущих им недостатков. По мнению Садовски, габсбургский ИИ, созданный на основе синтетических данных, лишен информационного разнообразия органических данных, созданных людьми.
Ученый из Оксфордского университета Илья Шумайлов опубликовал статью в журнале Nature, в которой предупреждал о коллапсе моделей. Он пишет, что если не принять меры, искусственный интеллект станет все более некомпетентным. По словам Шумайлова, коллапс моделей вряд ли решится сам собой, это постоянная проблема.
Исследование Шумайлова объясняет, почему нельзя использовать синтетические данные, созданные другими ИИ, для обучения. Простое добавление большего количества данных к задаче не гарантирует лучших результатов, это происходит потому, что все модели машинного обучения генерируют незначительные ошибки. Они воспроизводятся моделями, которые затем добавляют свои собственные незначительные ошибки. Так, неточности накапливаются и именно так качество снижается, а не улучшается.
Ситуацию усугубляет тот факт, что платформы, от новостных организаций до академических архивов, не дают разрешение на использование их контента ИИ-ботами. Видимый объем высококачественных данных сокращается в тот момент, когда спрос на них продолжает расти.
Использование синтетических данных вместо этого — мера с опасными последствиями. Исследование, проведенное учеными из Техасского университета и двух других американских университетов, демонстрирует, что, как и люди, модели LLM могут деградировать из-за постоянного воздействия некачественного веб-текста. Если дать ИИ обучаться на популярном, но низкокачественном контенте, они будут страдать от снижения способности к рассуждению и памяти.
Проблема усугубляется вторым явлением, называемым отравлением данных. На это явление обратил внимание Сейедали Мирджалили, директор-основатель Центра исследований и оптимизации искусственного интеллекта в Университете Торренса в Австралии. Отравление данных происходит, когда кто-то намеренно добавляет в обучающие данные некорректные или предвзятые примеры, чтобы модель усвоила скрытые правила или ложные факты, которые впоследствии проявляются в ее ответах. Исследователи из Великобритании и США недавно показали, что добавление всего 250 вредоносных или некачественных документов достаточно, чтобы скомпрометировать даже самые крупные модели.
ИИ обладает беспрецедентным потенциалом для дальнейшего усиления и использования предвзятой и заведомо ложной информации, распространяемой политиками и корпорациями.
Для раскрытия реального потенциала возможностей ИИ командам необходимы инструменты и процессы для удаления ненужных данных из рабочих процессов. Следует инвестировать в технологии, которые анализируют, очищают, нормализуют и корректируют обучающие данные.
- 1Инбредный — происходящий от скрещивания родственных особей – инбридинга
