Почему искусственный интеллект ошибается и создаёт «галлюцинации»

ИИ всё чаще вводит пользователей в заблуждение

Искусственный интеллект, несмотря на свои достижения, сталкивается с серьёзной проблемой — генерация недостоверной информации, которую называют «галлюцинациями». Об этом, как отмечает издание, говорят всё чаще в связи с ошибками, допущенными ведущими разработчиками.

В прошлом году, например, система Google для создания изображений порождала абсурдные картины: женщин в роли пап и чернокожих викингов. Ещё более спорные случаи связаны с советами от ИИ Google AI Overviews, где встречались рекомендации вроде добавления клея в соус для пиццы, а также придуманные поговорки, как «Барсука дважды не лизнешь», которые выдавались за общепринятые выражения.

Откуда берутся ошибки ИИ?

Как объясняют специалисты, одна из основных причин — некачественные источники информации. ИИ анализирует массу данных из интернета, подбирает, обобщает и выдаёт результаты с ссылками на источники. Но если эти данные ненадежны, информационное «зеркало» отражает искаженную реальность.

Эксперты уверены, что Google несколько недооценивает масштабы проблемы. В официальных данных уровень галлюцинаций варьируется от 0,7 до 1,3%, а по информации платформы Hugging Face у последней модели Gemini этот показатель достигает 1,8%.

OpenAI и проблемы достоверности

Подобные сложности испытывает и OpenAI. Компания признала, что последние модели, o3 и o4-mini, имеют повышенный уровень ошибок по сравнению с предшественниками. Согласно внутренним тестам, модель o3 выдумывала факты в 33% случаев, а o4-mini — почти в половине случаев (48%). Особенно высока частота ложной информации при ответах на вопросы, связанных с реальными людьми.

Искусственный интеллект и галлюцинации

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.