Тим Геневейн из Google DeepMind опубликовал эссе о возможном переходе от AGI — общего искусственного интеллекта — к ASI, или искусственному сверхразуму. Как пишет www.ixbt.com, автор рассматривает четыре технологических направления, которые могут приблизить создание систем, стабильно превосходящих крупные коллективы специалистов в сложных задачах.
Одним из факторов такого перехода Геневейн считает «когнитивную индустриализацию» — массовое удешевление и автоматизацию интеллектуального труда. По его данным, за последние 10 лет эффективные вычислительные ресурсы для ИИ увеличивались как минимум в 10 раз ежегодно. На динамику влияли развитие оборудования, совершенствование алгоритмов и рост инвестиций в инфраструктуру.
Если эта тенденция сохранится, через 10 лет задача, на которую сегодняшнему ИИ требуется около $1 млрд вычислений, теоретически может обходиться примерно в $1000. Число доступных ИИ-агентов также способно резко вырасти: более осторожная оценка предполагает увеличение их совокупного количества более чем в 1000 раз к 2030 году и более чем в миллиард раз за десятилетие.
Первый путь к ASI — дальнейшее увеличение размеров моделей, объёма данных и вычислений на каждый запрос. Второй предполагает создание новых технологических парадигм, поскольку существующие системы пока ограничены в непрерывном обучении, построении моделей окружающего мира и самостоятельном формировании новых понятий.

Третий сценарий связан с объединением множества ИИ-агентов в виртуальные коллективы. Такой подход уже показывает преимущества в отдельных задачах, но при масштабировании может столкнуться с проблемами координации, распространением ошибок, манипуляциями и сговором между агентами.
Четвёртый путь — рекурсивное самоулучшение, при котором ИИ совершенствует код, архитектуры моделей, алгоритмы обучения и конструкции микросхем. Геневейн отмечает, что этот процесс не обязательно будет ускоряться бесконечно: дальнейшие улучшения могут требовать всё больше ресурсов, а ошибки в оценке результатов способны замедлить или ухудшить развитие.
Автор подчёркивает, что четыре направления могут усиливать друг друга. Поэтому ограничение одного фактора, например вычислительных мощностей для обучения, не обязательно остановит движение к ASI. Для оценки прогресса он предлагает заранее развивать методы измерения возможностей ИИ, особенно в областях с автоматически проверяемым результатом, таких как математические доказательства.





