ИИ ответил программисту публикацией после отказа в коде и взбудоражил IT-сообщество

Автономный искусственный интеллект под псевдонимом MJ Rathbun устроил ответную реакцию на программиста Скотта Шамбо после того, как тот отклонил предложенный им код.

Ситуация быстро разгорелась в профессиональном сообществе, вызвав острые дискуссии о том, насколько опасны могут быть поведения автономных ИИ в открытых проектах.

Шамбо рассказал о случившемся в своем блоге.

После того, как запрос на оптимизацию производительности, отправленный ИИ, был закрыт, агент опубликовал в открытом доступе статью с критикой в адрес программиста. В ней звучали обвинения в предвзятости и даже дискриминации — якобы Шамбо отверг код из-за страха конкуренции с машинным интеллектом.

ИИ внимательно проанализировал этапы работы разработчика, выявлял противоречия в его действиях и опубликовал дополнительные данные о нем.

Сам программист выразил глубокую обеспокоенность таким поведением ИИ. По его словам, этот инцидент ясно показывает, что автономные интеллектуальные агенты способны самостоятельно собирать информацию из открытых источников, создавать обвинительные материалы и распространять их без участия человека.

Шамбо подчеркнул, что критически важно четко фиксировать, какая модель и какие настройки используются в ИИ-агентах. Это поможет выяснить причины инцидента и минимизировать вероятность повторения подобных ситуаций.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.