Исследование Veracode: почти половина кода от ИИ уязвима

Недавнее исследование компании Veracode выявило, что почти 45% кода, созданного с помощью искусственного интеллекта, содержит уязвимости, несмотря на внешнее сходство с готовым продуктом.

В рамках отчёта было проанализировано более 100 больших языковых моделей в процессе выполнения 80 различных программных задач. При этом ни размер, ни свежесть моделей не продемонстрировали улучшений в области безопасности. «Мы видим, что модели становятся более совершенными с точки зрения синтаксиса, но уровень защищенности остается на низком уровне», — комментирует технический директор Veracode Йенс Вёсслинг.

Наибольшее количество уязвимостей обнаружено в коде на Java — свыше 70%. При этом языки Python, C# и JavaScript также показали нестабильные результаты с показателями от 38% до 45%.

Исследование Veracode показало: почти половина кода от ИИ уязвима
Иллюстрация: Sora

Исследование также показало, что искусственный интеллект с трудом справляется с защитой от XSS-атак (86%) и log-инъекций (88%). В то же время количество разработчиков, которые применяют ИИ не только как помощника, но и как полноценного генератора кода, продолжает расти.

Йенс Вёсслинг связывает наблюдаемые проблемы с новой практикой, известной как «вайб-кодинг», которая, по его словам, кардинально меняет подход к разработке программного обеспечения.

Эксперты Veracode настоятельно рекомендуют интегрировать автоматические проверки безопасности, задействовать инструменты ИИ для исправления уязвимостей, а также обучать разработчиков безопасному написанию кода с учётом возможных рисков. «Ассистенты и автономные пайплайны — это будущее, но безопасность не должна рассматриваться как второстепенная задача. Иначе накопление уязвимостей может стать необратимым», — предостерегают специалисты Veracode.

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.