Искусственный интеллект под контролем злоумышленников: утечки и новые угрозы

Искусственный интеллект, который должен был избавить нас от рутинной работы, в 2025 году неожиданно стал источником множества проблем. Я Сергей Крюков, эксперт НИР Груп, расскажу о том, как компании теряют сотни миллионов рублей из-за того, что ИИ оказался под пристальным вниманием не только работников, но и преступников.

30% утечек информации исходят от сотрудников

Да, вы не ослышались: не вирусы и не хакеры, а обычные офисные работники становятся источником утечек, когда просят ИИ помочь с отчётами.

Как показывает аналитика НИР Груп, примерно 30% утечек происходит из-за того, что сотрудники загружают внутренние документы в публичные ИИ-сервисы.

Сергей Крюков
эксперт НИР Груп

Финансовые отчёты? Были. Клиентские данные? Конечно. Внутренние документы? Да, и это происходит часто.

joyreactor

Многие компании уже сообщают о таких инцидентах. Причина — людская спешка завершить задачи. Однако ИИ-сервисы не находятся под контролем корпоративной инфраструктуры, что опасно. Это напоминает ситуацию, когда вы делитесь секретами компании с таксистом: он может и не передать их, но куда исчезнет информация — никто не знает.

Атаки на ИИ возросли на 48%: злоумышленники нацелились на системы

В 2025 году хакеры начали вторгаться в саму архитектуру ИИ.

Число успешных атак возросло на 48% всего за год. Преступники прибегнули к новым методам:

  • инъекции промптов, заставляющие модели игнорировать правила и раскрывать секреты;

  • «отравление» данных, когда в ответах появляются вредоносные элементы;

  • манипуляции контекстом, из-за чего модели принимают неверные решения.

Теперь «мозг» компании стал целью для атак.

ИИ может помочь хакерам — он генерирует вредоносный код

Модели ИИ иногда случайно:

  • предлагают опасные SQL-запросы;

  • создают вредоносный JavaScript;

  • подсказкой помогают удалить данные;

  • способствуют подбору паролей, что значительно ускоряет процесс.

Иногда ИИ так естественно имитирует человека, что обходит капчи, словно активно работая на кого-то. Особенно страдает ритейл.

joyreactor

Сотрудники вносят данные о промоакциях, а злоумышленники через хитрые запросы ищут уязвимости и используют это против компании.

Системы безопасности не справляются

Антивирусы, контроль трафика и другие системы безопасности больше не замечают, что происходит внутри ИИ. А именно там кроется главный риск. Это как если бы вы поставили пять замков на двери, но оставили окно открытым, даже не подозревая, что окно стало «умным» и способно общаться.

Ущерб от атак может достигать 4 трлн рублей к 2027 году

Цифры вызывают шок:

  • один инцидент обходится компаниям в 100–200 миллионов рублей;

  • для крупных компаний счета идут на десятки миллиардов;

  • к 2027 году общий ущерб от атак с участием ИИ может составить 40 миллиардов долларов (примерно 4 трлн рублей).

Самый яркий случай: взлом криптобиржи Balancer, при котором было украдено 120 миллионов долларов (около 12 миллиардов рублей) только благодаря вмешательству в работу алгоритмов.

В итоге

ИИ не является злодеем сам по себе. Опасность заключается в излишней доверчивости сотрудников, которые начинают использовать ИИ без должной осторожности, что делает его новой мишенью для атак, тогда как традиционные системы безопасности часто не видят рисков внутри модели. ИИ становится мощным инструментом, однако при возникновении небольшой неисправности последствия могут быть весьма дорогостоящими, а выявление и устранение проблем — намного сложнее и затратнее, чем заблаговременные меры безопасности.

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.