Почему корпоративные ИИ-системы стали главной целью для киберпреступников

Google предупредила о росте атак на корпоративные ИИ-данные

В расследованиях Mandiant фигурируют автономные мультиагентные атаки, способные собрать тысячи учётных данных из облачной инфраструктуры менее чем за шесть часов. Для продуктовых команд, которые встраивают ИИ-функции в свои сервисы, это сигнал: данные модели — не просто артефакт разработки, а полноценная точка атаки, требующая отдельного внимания при проектировании флоу безопасности.

Как именно крадут ИИ-данные

Схема выглядит пугающе изящно. Злоумышленники не ломаются в привычном смысле — они автоматизируют весь путь. По данным расследований, зафиксированы случаи, когда ИИ-агенты внутри скомпрометированной инфраструктуры самостоятельно сканировали уязвимости, устраняли сбои в реальном времени и меняли IP-адреса, маскируя трафик. Всё — без ручного вмешательства.

Группировка TeamPCP, которую Google отслеживает как UNC6780, с марта проводит масштабные атаки на цепочки поставок open source — PyPI, npm, Docker Hub. После компрометации пакетов и реестров злоумышленники разворачивают стилеры, собирающие доступы к облакам и ИИ-системам. В одном из случаев атакующие создали вредоносный GitHub Actions workflow для проприетарного ИИ-репозитория компании и выгрузили его полную копию.

Что украдено и кому это больно

По данным Google, пострадали компании из технологического, фармацевтического и медийного секторов в Северной Америке и Европе. В одном из инцидентов злоумышленники проникли в компанию, специализирующуюся на генерации медиаконтента с помощью ИИ, и похитили исходный код, промпты, скрипты моделей и ключи доступа. Затем потребовали выкуп, пригрозив опубликовать всё в открытом доступе.

В другом случае взломали медицинскую компанию — унесли корпоративные данные и результаты исследований лекарств, включая проприетарную ИИ-модель. Шантаж тот же: плати или мы сливаем. Главный аналитик Google Threat Intelligence Group Джон Халтквист отметил, что ИИ-системы становятся всё более ценной мишенью, потому что компании вкладывают в них огромные суммы и не хотят терять интеллектуальную собственность.

Что это значит для продуктовых команд

Если ваш сервис хранит промпты, fine-tuned модели или скрипты обработки данных в облаке — они теперь на радаре тех же группировок, которые атакуют финансовые системы и базы пациентов. При этом атаки стали быстрыми: от проникновения до полной экзальтрации учётных данных может пройти менее шести часов.

Для продуктов с ИИ-компонентой это повод пересмотреть не только security-слои, но и сам CJM данных: где модель и её артефакты хранятся, кто имеет доступ, как быстро можно изолировать скомпрометированную среду. Промпт — это уже не заметка в Confluence, а критический актив, требующий уровня защиты, сопоставимого с ключами шифрования.

Отдельно стоит следить за зависимостями: supply chain через open source-пакеты остаётся одним из главных векторов. Проверка контрактов, аудит CI/CD-пайплайнов и мониторинг аномальных workflow в репозиториях — теперь базовая гигиена, а не опция для параноиков.