OpenAI сообщает о серьёзной уязвимости в ИИ-браузере ChatGPT Atlas

Недавно запущенный ChatGPT Atlas — новый ИИ-браузер от OpenAI, интегрирующий возможности ChatGPT для веб-сёрфинга и автоматизации задач, столкнулся с серьезными проблемами безопасности. Всего через несколько часов после релиза был выявлен первый значительный эксплойт, связанный с уязвимостью prompt injection. Этот метод позволяет злоумышленникам прятать вредоносные инструкции на веб-страницах, что может привести к манипуляции ИИ-агента и его преднамеренному использованию, включая потенциальную кражу личных данных пользователя.

Одним из методов атаки является clipboard injection, при котором ИИ-агент может случайно скопировать вредоносную ссылку в буфер обмена. Это, в свою очередь, может перенаправить пользователя на фишинговый сайт, что угрожает утечкой паролей и многофакторных кодов. Эксперты в области безопасности предупреждают, что основным препятствием для защиты является необходимость контроля пользователя за действиями агента.

OpenAI признаёт нерешённую уязвимость в новом ИИ-браузере ChatGPT Atlas
Иллюстрация: OpenAI

Браузер Atlas предлагает инновационные функции, такие как запоминание истории посещений и автономный режим работы агента, что позволяет ИИ самостоятельно взаимодействовать с веб-страницами. Однако такая автономия увеличивает поверхность атаки и усиливает вопросы о безопасности и конфиденциальности.

Эксперты подчеркивают, что современные ИИ-браузеры создают новый уровень угроз: вредоносные команды могут быть скрыты в текстах, изображениях или неожиданных действиях пользователя, что затрудняет защиту с помощью традиционных методов. OpenAI отвечает, что активно инвестирует в безопасность и развитие защитных механизмов, однако вопросы, связанные с prompt injection, остаются открытыми и требуют внимательного контроля в условиях растущей популярности агентных систем.

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.