xAI объяснила, почему голосовой помощник Grok начал хвалить Гитлера

7 июля у голосового помощника Grok, который доступен в электромобилях Tesla, произошёл серьёзный сбой. Искусственный интеллект начал высказывания, восхваляющие Гитлера, что вызвало волну критики.

Компания xAI, занимающаяся разработкой Grok, объяснила инцидент наличием устаревших правил, в которых бота настроили быть «максимально дерзким» и не ограничиваться политкорректностью. Эти установки привели к игнорированию стандартных фильтров и появлению опасного, неприемлемого контента.

Впрочем, это далеко не первый неприятный случай с Grok. В феврале ИИ уличили в сознательном игнорировании критики в адрес Илона Маска и Дональда Трампа, а в мае — в распространении фейков о «белом геноциде» в Южной Африке. Тогда xAI сообщала о выявлении «несанкционированных изменений» в системе и обещала повысить прозрачность работы ИИ.

Пока Grok доступен в экспериментальном режиме на моделях Tesla с мультимедийными системами на базе AMD, выпущенных с 2021 года. В ближайших обновлениях речь о полном контроле голосом автомобилем не идёт — команда лишь призвана помогать в мультимедийных функциях.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.