Недавно запущенный ChatGPT Atlas — новый ИИ-браузер от OpenAI, интегрирующий возможности ChatGPT для веб-сёрфинга и автоматизации задач, столкнулся с серьезными проблемами безопасности. Всего через несколько часов после релиза был выявлен первый значительный эксплойт, связанный с уязвимостью prompt injection. Этот метод позволяет злоумышленникам прятать вредоносные инструкции на веб-страницах, что может привести к манипуляции ИИ-агента и его преднамеренному использованию, включая потенциальную кражу личных данных пользователя.
Одним из методов атаки является clipboard injection, при котором ИИ-агент может случайно скопировать вредоносную ссылку в буфер обмена. Это, в свою очередь, может перенаправить пользователя на фишинговый сайт, что угрожает утечкой паролей и многофакторных кодов. Эксперты в области безопасности предупреждают, что основным препятствием для защиты является необходимость контроля пользователя за действиями агента.

Браузер Atlas предлагает инновационные функции, такие как запоминание истории посещений и автономный режим работы агента, что позволяет ИИ самостоятельно взаимодействовать с веб-страницами. Однако такая автономия увеличивает поверхность атаки и усиливает вопросы о безопасности и конфиденциальности.
Эксперты подчеркивают, что современные ИИ-браузеры создают новый уровень угроз: вредоносные команды могут быть скрыты в текстах, изображениях или неожиданных действиях пользователя, что затрудняет защиту с помощью традиционных методов. OpenAI отвечает, что активно инвестирует в безопасность и развитие защитных механизмов, однако вопросы, связанные с prompt injection, остаются открытыми и требуют внимательного контроля в условиях растущей популярности агентных систем.





