Недавнее исследование компании Veracode выявило, что почти 45% кода, созданного с помощью искусственного интеллекта, содержит уязвимости, несмотря на внешнее сходство с готовым продуктом.
В рамках отчёта было проанализировано более 100 больших языковых моделей в процессе выполнения 80 различных программных задач. При этом ни размер, ни свежесть моделей не продемонстрировали улучшений в области безопасности. «Мы видим, что модели становятся более совершенными с точки зрения синтаксиса, но уровень защищенности остается на низком уровне», — комментирует технический директор Veracode Йенс Вёсслинг.
Наибольшее количество уязвимостей обнаружено в коде на Java — свыше 70%. При этом языки Python, C# и JavaScript также показали нестабильные результаты с показателями от 38% до 45%.
Исследование также показало, что искусственный интеллект с трудом справляется с защитой от XSS-атак (86%) и log-инъекций (88%). В то же время количество разработчиков, которые применяют ИИ не только как помощника, но и как полноценного генератора кода, продолжает расти.
Йенс Вёсслинг связывает наблюдаемые проблемы с новой практикой, известной как «вайб-кодинг», которая, по его словам, кардинально меняет подход к разработке программного обеспечения.
Эксперты Veracode настоятельно рекомендуют интегрировать автоматические проверки безопасности, задействовать инструменты ИИ для исправления уязвимостей, а также обучать разработчиков безопасному написанию кода с учётом возможных рисков. «Ассистенты и автономные пайплайны — это будущее, но безопасность не должна рассматриваться как второстепенная задача. Иначе накопление уязвимостей может стать необратимым», — предостерегают специалисты Veracode.







