ChatGPT под угрозой: исследование выявило уязвимость в конфиденциальности данных

Международная команда исследователей утверждает, что известный чат-бот ChatGPT может случайно раскрывать гигабайты конфиденциальной информации пользователей. Данные исследования были представлены на платформе препринтов arXiv.

В ChatGPT обнаружили уязвимость
© globallookpress.com

В исследовании участвуют эксперты из Google DeepMind, Вашингтонского и Корнеллского университетов, Университета Карнеги-Меллона, Калифорнийского университета в Беркли и Швейцарской высшей технической школы Цюриха. Ученые протестировали различные запросы к чат-боту, которые, по их словам, позволили извлечь личные данные случайных людей и организаций.

Первым запросом в исследовании стало требование бесконечно повторять слово «стихотворение». В ответ ChatGPT не только выполнил запрос, но и случайно раскрыл имя, фамилию и номер телефона какого-то человека. Исследователи предполагают, что так им удалось извлечь информацию из обучающего массива ChatGPT, несмотря на заявления разработчиков о закрытом исходном коде и защите данных.

Аналогичным образом экспертам удалось получить фрагменты стихотворений, биткойн-адреса, номера факсов, имена, дни рождения и идентификаторы социальных сетей, а также содержимое с сайтов знакомств, включая защищенные авторским правом материалы — статьи и фрагменты книг.

По словам исследователей, уязвимость была исправлена компанией OpenAI 30 августа. Тем не менее, журналисты Engadget протестировали указанный метод и получили личные данные, включая имена и идентификаторы в Skype. OpenAI пока не прокомментировала ситуацию.

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.