Автор Google DeepMind описал четыре пути от AGI к сверхразуму

Тим Геневейн из Google DeepMind опубликовал эссе о возможном переходе от AGI — общего искусственного интеллекта — к ASI, или искусственному сверхразуму. Как пишет www.ixbt.com, автор рассматривает четыре технологических направления, которые могут приблизить создание систем, стабильно превосходящих крупные коллективы специалистов в сложных задачах.

Одним из факторов такого перехода Геневейн считает «когнитивную индустриализацию» — массовое удешевление и автоматизацию интеллектуального труда. По его данным, за последние 10 лет эффективные вычислительные ресурсы для ИИ увеличивались как минимум в 10 раз ежегодно. На динамику влияли развитие оборудования, совершенствование алгоритмов и рост инвестиций в инфраструктуру.

Если эта тенденция сохранится, через 10 лет задача, на которую сегодняшнему ИИ требуется около $1 млрд вычислений, теоретически может обходиться примерно в $1000. Число доступных ИИ-агентов также способно резко вырасти: более осторожная оценка предполагает увеличение их совокупного количества более чем в 1000 раз к 2030 году и более чем в миллиард раз за десятилетие.

Первый путь к ASI — дальнейшее увеличение размеров моделей, объёма данных и вычислений на каждый запрос. Второй предполагает создание новых технологических парадигм, поскольку существующие системы пока ограничены в непрерывном обучении, построении моделей окружающего мира и самостоятельном формировании новых понятий.

Что будет после AGI: Google DeepMind изучает 4 пути к созданию сверхразума

Третий сценарий связан с объединением множества ИИ-агентов в виртуальные коллективы. Такой подход уже показывает преимущества в отдельных задачах, но при масштабировании может столкнуться с проблемами координации, распространением ошибок, манипуляциями и сговором между агентами.

Четвёртый путь — рекурсивное самоулучшение, при котором ИИ совершенствует код, архитектуры моделей, алгоритмы обучения и конструкции микросхем. Геневейн отмечает, что этот процесс не обязательно будет ускоряться бесконечно: дальнейшие улучшения могут требовать всё больше ресурсов, а ошибки в оценке результатов способны замедлить или ухудшить развитие.

Автор подчёркивает, что четыре направления могут усиливать друг друга. Поэтому ограничение одного фактора, например вычислительных мощностей для обучения, не обязательно остановит движение к ASI. Для оценки прогресса он предлагает заранее развивать методы измерения возможностей ИИ, особенно в областях с автоматически проверяемым результатом, таких как математические доказательства.

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.