Исследователи обнаружили уязвимость в ИИ-помощниках программистов

Исследователи из Техасского университета в Сан-Антонио (UTSA) провели обширное исследование опасностей использования искусственного интеллекта (ИИ) в сфере программирования. В опубликованной работе установлено, что такие модели, как ChatGPT, способны генерировать потенциально опасный код, включая упоминания несуществующих программных библиотек.

Это явление получило название «галлюцинация пакетов» — ситуация, когда ИИ рекомендует использовать пакет, отсутствующий в действительности. Данная уязвимость может быть использована злоумышленниками для внедрения вредоносного программного обеспечения под именем таких пакетов, что ставит под угрозу компьютеры пользователей.

Руководитель исследования Джо Спраклен подчеркнул, что ошибки могут возникать даже при вводе простых команд, и программисты не всегда понимают потенциальные риски. Согласно оценкам, 97% разработчиков уже применяют генеративный ИИ в своей деятельности, и около 30% кода в современных проектах создаётся с использованием нейросетей.

В рамках анализа было сгенерировано свыше 2 миллионов примеров кода на Python и JavaScript, из которых более 440 тысяч содержали ссылки на несуществующие библиотеки. Причём модели GPT допускали такие ошибки в четыре раза реже, чем открытые альтернативы.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.