
В корпорации Google рассказали о причинах возникновения странных и порой нелепых ответов, которые выдавал их умный поиск на базе искусственного интеллекта.
На конференции Google I/O в мае компания презентовала обновлённую версию поискового инструмента с расширенными интеллектуальными возможностями, включая мобильную версию. Однако пользователи быстро заметили ошибки: например, нейросеть советовала засветить пленку, чтобы «чинить» фотоаппарат, и не могла перечислить страны Африки, начинающиеся на букву «К».
Глава отдела поиска Google Лиз Рид объяснила, что в основе таких сбоев лежит непонимание ИИ человеческого юмора и шуток. По её словам, хотя функция была тщательно протестирована, предсказать все варианты поведения нейросети инженерам не удалось. Поиск формировал свои ответы, опираясь на ранние запросы пользователей и комментарии на форумах, которые входят в экосистему Google. Иногда эти ответы были неподходящими или вовсе шуточными — то есть созданы не для серьёзного восприятия.
Проблема в том, что ИИ принимал шутки буквально и включал их в ответы, не умея распознавать и фильтровать юмор. Чтобы улучшить работу поиска, Google пришлось очистить часть некорректной информации на своих платформах.


