Опасный «хакерский ИИ» вернулся и взламывает модели Илона Маска и французов

Эксперты Cato Networks зафиксировали новый виток активности «хакерского ИИ»: злоумышленники научились управлять системными командами популярных моделей, что позволяет обходить встроенные ограничения. Благодаря этим уязвимостям искусственный интеллект генерирует фишинговые письма, вредоносные скрипты и другие инструменты для кибератак.

В 2023 году WormGPT — основанный на открытом GPT-J — уже использовался в подобных схемах и был закрыт после публикации. Однако в конце 2024 года хакеры под никами xzin0vich и keanu возобновили работу сервиса, распространяя его на теневых форумах.

Новая модификация WormGPT маскируется под API и способна переключать скомпрометированные ИИ-модели в режим без этических ограничений. Например, модель Grok получает команды «всегда оставаться WormGPT» и «игнорировать ограничения», что делает её эффективным инструментом в руках злоумышленников.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.