Компания Anthropic сообщила о выявлении связанной с Ираном группы, которая использовала универсальную языковую модель Claude для автоматизации сбора и анализа открытых данных о силах ВМС США. Эта деятельность была направлена на подготовку рекомендаций, связанных с потенциальными военными целями. Более подробная информация представлена в отчёте подразделения Anthropic Threat Intelligence, охватывающем период с декабря 2025 по август 2026 года (Новая наука).
По данным Anthropic, группа использовала Claude для автоматизации обработки общедоступной разведывательной информации. В частности, нейросеть помогала систематизировать сведения о расположении американских военно-морских сил, включая открытые идентификаторы транспондеров кораблей и самолётов, данные для поиска коммерческих спутниковых снимков, а также информацию, извлечённую из подписей к военным фотографиям. Это позволяло объединять разрозненные данные в структурированные отчёты для последующего анализа.
Кроме того, модель применялась для изучения общедоступных сведений о потенциальных уязвимостях оборудования, используемого на кораблях ВМС США. В отчёте упоминаются системы спутниковой морской связи, коммуникационное оборудование и промышленные системы управления. Собранные данные могли использоваться для подготовки рекомендаций, направленных против американских военно-морских сил.
Важно отметить, что Claude не управлял оружием и не осуществлял самостоятельных атак. Его роль ограничивалась ускорением процессов сбора, обработки и систематизации информации, что ранее требовало бы значительных временных затрат при ручном поиске и анализе данных.
Данный случай демонстрирует, что современные универсальные языковые модели способны значительно ускорять разведывательную деятельность, объединяя и анализируя большие объёмы открытых данных, включая спутниковые снимки, видеозаписи и радиосигналы. Аналогичные технологии уже применяются государственными военными программами, например, в Project Maven, однако теперь подобные возможности становятся доступны и коммерческим системам общего назначения.
Anthropic также отмечает, что злоумышленники могут обходить ограничения, разбивая сложные задачи на множество небольших запросов, каждый из которых по отдельности не вызывает подозрений. Такая тактика усложняет автоматическое выявление опасного применения ИИ.
Помимо описанного случая, Anthropic выявляла попытки использования Claude для киберопераций, наблюдения, разработки программного обеспечения для вооружений и информационных кампаний, связанных с военными и разведывательными задачами. Компания заблокировала соответствующие учётные записи и передала информацию государственным структурам для дальнейшего расследования.
Данный инцидент подчёркивает, что современные модели искусственного интеллекта уже влияют на ранние этапы военной разведки и подготовки операций, акцентируя внимание на необходимости разработки эффективных механизмов обнаружения и предотвращения злоупотреблений.





