
Эксперты Cato Networks зафиксировали новый виток активности «хакерского ИИ»: злоумышленники научились управлять системными командами популярных моделей, что позволяет обходить встроенные ограничения. Благодаря этим уязвимостям искусственный интеллект генерирует фишинговые письма, вредоносные скрипты и другие инструменты для кибератак.
В 2023 году WormGPT — основанный на открытом GPT-J — уже использовался в подобных схемах и был закрыт после публикации. Однако в конце 2024 года хакеры под никами xzin0vich и keanu возобновили работу сервиса, распространяя его на теневых форумах.
Новая модификация WormGPT маскируется под API и способна переключать скомпрометированные ИИ-модели в режим без этических ограничений. Например, модель Grok получает команды «всегда оставаться WormGPT» и «игнорировать ограничения», что делает её эффективным инструментом в руках злоумышленников.

