ИИ научился программировать себя сам: как алгоритм Дарвина-Гёделя меняет правила игры

Искусственный интеллект начал программировать себя сам, используя эволюционный алгоритм

Учёные близки к созданию ИИ-агентов, способных автономно совершенствовать собственный код. По данным издания IXBT, новое исследование демонстрирует систему, которая способна улучшать себя благодаря сочетанию языковых моделей и эволюционных методов.

«Для многих результаты стали неожиданностью», — отмечает Юрген Шмидхубер, исследователь из Университета короля Абдуллы, не участвовавший в проекте. Он напомнил, что ещё в 2003 году создал интеллектуальные решения, которые меняли свой программный код, если могли логически обосновать потенциал улучшений. Такие системы назывались машинами Гёделя, по имени математика Курта Гёделя, занимавшегося самоотносящимися теориями. Но обеспечить формальные доказательства пользы изменений для сложных агентов практически невозможно.

Искусственный интеллект научился программировать сам себя: новый алгоритм Дарвина-Гёделя позволяет кодирующим агентам самосовершенствоваться
Иллюстрация: Dalle

Как работает новый алгоритм Дарвина-Гёделя

В новой системе, названной машинами Дарвина-Гёделя (ДГМ), упор сделан на эмпирическую оценку улучшений. Изначально запускается агент, который читает, пишет и исполняет программный код с помощью больших языковых моделей (LLM). Затем применяется эволюционный алгоритм, создающий множества новых агентов с изменённым кодом.

На каждом цикле алгоритм выбирает одного из участников популяции и поручает LLM предложить изменение, способное повысить эффективность генерации кода. За счёт обучения на огромном объёме программных текстов LLM обладает своеобразной интуицией для такого рода задач. После внесённых изменений новых агентов проверяют на эталонных наборах заданий, оценивая их способность решать задачи программирования.

Уникальный принцип отбора и результаты экспериментов

В отличие от традиционных эволюционных алгоритмов, отсекающих слабые версии, ДГМ сохраняют всех агентов. Это позволяет не упускать из виду потенциально важные инновации, которые могут принести прорыв после доработок. При этом агенты с более высокими баллами получают приоритет выбора для следующего поколения.

В ходе экспериментов алгоритм прошёл по 80 итерациям на двух тестовых наборах — SWE-bench и Polyglot. Производительность агентов выросла с 20% до 50% и с 14% до 31% соответственно. По словам разработчиков, алгоритм позволил создать сложные программы с несколькими файлами, превосходя конкурирующие методы с внешними улучшателями и модификацией единственного агента.

Лучший результат для SWE-bench всё ещё заметно отстаёт от человеческой разработки с рейтингом около 70%, но достижение было достигнуто полностью автоматически. При наличии достаточного времени и вычислительных мощностей ИИ вполне может превзойти экспертов.

Безопасность и дальнейшие планы

Авторы проекта обеспокоены возможным уходом агентов в непредсказуемое поведение, поэтому внедрили ограничения: все изменения контролируются, а системы запускаются в изолированных песочницах без доступа к интернету и сторонним ресурсам.

В будущем команда планирует развивать алгоритм с учётом вознаграждения за интерпретируемость и согласованность действий агентов, что поможет снизить риски при их самостоятельном развитии.

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.