Генеративные модели искусственного интеллекта, такие как GPT-4 от OpenAI или Stability AI от Stable Diffusion, способны создавать текст, код, изображения и видео. Однако для их обучения требуется огромное количество данных, что заставляет разработчиков сталкиваться с серьезными ограничениями. Это может привести к исчерпанию ресурсов для дальнейшего обучения.
На фоне нехватки данных эксперты рассматривают возможность использования искусственных данных. Синтетически создаваемая информация обходится дешевле и практически не имеет пределов по объему. Кроме того, она не несет рисков для конфиденциальности, в отличие от, к примеру, медицинской информации. В отдельных случаях синтетические данные могут даже улучшить производительность ИИ.
Тем не менее, группа ученых из Университета Райса выяснила, что использование синтетических данных для обучения ИИ может обернуться серьезными проблемами. Основная трудность заключается в том, что при повторном обучении на синтетических данных возникает так называемая петля обратной связи, как поясняет профессор электротехники и вычислительной техники Университета Райса Ричард Баранюк.
«Мы много изучали эти петли обратной связи, и плохая новость состоит в том, что даже после нескольких поколений такого обучения новые модели могут оказаться необратимо испорченными. Некоторые называют это крахом, но мы предпочитаем термин ‘расстройство модельной аутофагии’ (MADness)», — отмечает Баранюк.
В ходе исследования ученые сосредоточились на визуальных моделях ИИ, чтобы продемонстрировать недостатки аутофагического обучения. Однако аналогичные проблемы наблюдаются и в языковых моделях. Как правило, источником обучающих наборов данных для генеративных ИИ становится интернет, и с увеличением масштабов синтетических данных в сети могут возникнуть циклы саморазрушения.
Баранюк и его команда изучили три типа самопоглощающих циклов: полностью синтетический цикл, цикл синтетического дополнения и цикл «Свежие данные». В первом случае последующие поколения ИИ обучаются на полностью синтетических данных, полученных из результатов предыдущих поколений. Второй вариант включает сочетание синтетических данных и фиксированного набора «живых» данных. Третий цикл основан на комбинировании данных из предыдущих поколений и актуальных реальных данных.
Исследования показали, что в условиях недостатка свежих реальных данных модели со временем начинают генерировать все более искаженные результаты, теряя как качество, так и разнообразие. Следовательно, чем больше свежих данных, тем лучше для ИИ.
Анализ наборов данных изображений, созданных в результате смены поколений модели, демонстрирует угрожающее будущее ИИ. Наборы данных, содержащие изображения человеческих лиц, становятся похожими на шрамы или представляют собой одни и те же лица. Наборы чисел превращаются в неразборчивые каракули.

Фото: Digital Signal Processing Group/Rice University
«Некоторые последствия уже очевидны: без достаточного количества свежих реальных данных будущие генеративные модели обречены на провал», — подчеркивает Баранюк. Он указывает на один из сценариев катастрофы, когда аутофагия выходит из-под контроля на протяжении поколений, что приводит к ухудшению качества данных во всем интернете. Даже если этого не произойдет, последствия аутофагии могут проявляться непредсказуемым образом в ближайшем будущем.




