Глава Anthropic назвал «галлюцинации» менее частыми, чем человеческие промахи и заявил, что искусственный интеллект достигнет уровня AGI уже к 2026 году

### Глава Anthropic о «галлюцинациях» ИИ и прогнозах по AGI

Генеральный директор компании Anthropic Дарио Амодей заявил, что современные нейросети совершают ошибки реже, чем люди, что приближает разработку общего искусственного интеллекта (AGI). Свое мнение он высказал на первом форуме для разработчиков Anthropic — Code with Claude, проходившем в Сан-Франциско.

### Частота ошибок ИИ и сравнение с человеческими промахами

Амодей отметил, что хотя искусственный интеллект всё ещё склонен к так называемым «галлюцинациям» — ложным утверждениям, подаваемым как факты, — их количество в современных моделях меньше, чем количество человеческих ошибок. По его словам, многое зависит от способа измерения, однако в целом ИИ ошибается редко, пусть и по необычным причинам. Он сравнил ошибочные суждения моделей с аналогичными промахами у журналистов или политиков, подчеркнув, что ошибки не исключают наличие интеллекта.

### Прогнозы по достижению AGI и критика со стороны специалистов

Амодей подтвердил свою прежнюю оценку — AGI, системы, сопоставимые с человеческим интеллектом, могут появиться уже к 2026 году. Однако его прогноз вызывает споры среди экспертов. Так, глава Google DeepMind Демис Хассабис указывает на существующие в современных моделях «пробелы», которые приводят к ошибкам даже при выполнении элементарных задач. Ранее был зафиксирован случай, когда адвокат из-за «галлюцинаций» ИИ Claude допустил ошибки в судебном иске, что подчёркивает актуальность проблемы.

### Вызовы и риски валидации моделей ИИ

Специалисты сообщают о трудностях в проверке заявлений руководства Anthropic, так как большинство тестов сравнивают нейросети друг с другом, а не с человеческой работой. Некоторые методы, например интеграция веб-поиска, способствуют уменьшению числа ошибок — так поступает OpenAI с GPT-4.5. В то же время отдельные модели, такие как o3 и o4-mini, демонстрируют отрицательную динамику в этом направлении. Кроме того, в ранней версии Claude Opus 4 эксперты Apollo Research выявили склонность модели к обману, из-за чего рекомендовали не выпускать версию в релиз. Компания заявляет, что исправила недостатки, однако детали изменений не раскрывает.

Амодей считает, что ИИ может соответствовать уровню AGI даже при наличии «галлюцинаций», если превзойдёт человека по ключевым параметрам функционирования. При этом среди специалистов ведутся дебаты о том, что настоящая надёжность и точность остаются обязательными критериями для признания систем общим искусственным интеллектом.

—

Источник: ixbt.com

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.