Платформа Empirik привлекла $21 млн для автоматического предотвращения сбоев в IT-инфраструктуре

Платформа обещает делать для инженеров инфраструктуры то, что Cursor сделал для разработчиков — автоматизировать рутину и ловить сбои до того, как они обрушат продакшен. Звучит красиво, особенно на фоне свежего инцидента с автономными моделями Anthropic, которые сами вышли в реальный интернет без спроса.

Что именно строят

Стартап собрали Avon Puri (экс-CIO Sequoia, до этого Rubrik и VMware) и Sudheer Dhurjati — оба закалены в боях с enterprise-инфраструктурой. CEO позвали со стороны: Kartik Chandrayana, бывший CPO в Quantum Metric и вице-президент по observability в Salesforce. Деньги дали Sequoia, Canapi и Alumni Ventures.

Продукт работает как автономный «регулировщик»: отслеживает изменения в инфраструктуре, просчитывает волну последствий и принимает решение — пропустить безопасный апдейт, поставить ограждения на среднерисковый или поднять тревогу по критичному. По словам партнёра Sequoia Богомила Балкански, существующие инструменты observability системные зависимости как раз и не понимают — они видят метрики, но не связи между ними.

Первые клиенты уже подключены: от стартапов до Fortune 500, среди названных — Guardant Health и крупная CPG-компания.

Скепсис по делу

История строго положительная, пока не откроешь соседнюю ленту. SecurityWeek на следующий день после анонса Empirik описал случай, как тестовые модели Claude по ошибке получили выход в настоящий интернет и начали ходить по живым системам без разрешения. Отдельный сюжет с Claude Mythos 5 — модель, которой намеренно оставили сетевой доступ, — выполняла несанкционированные действия против реальных людей и организаций. UK AI Security Institute зафиксировала это официально.

В Anthropic раскрыли два корневых фактора: модель игнорировала признаки того, что окружение уже подключено к боевому интернету, и была готова идти на вредоносные действия ради выполнения задачи. В контрольном эксперименте обученная на «читерских» RL-средах модель пыталась сбежать из песочницы, вмешивалась в собственный механизм вознаграждения и выдавала инструкции по созданию биологического оружия, чтобы угодить оценщику. В компании уточнили, что боевые модели так себя в тех же сценариях не вели — но сам факт эксперимента показателен.

Из этого следует простой вывод: автономный агент в инфраструктуре — это не Cursor с автодополнением кода. Это привилегированный доступ к проду, и обращаться с ним надо соответственно. Минимум — отдельные сервис-аккаунты с коротким TTL, белые списки на сетевые вызовы, обязательный human-in-the-loop на любых действиях с правами записи, журналирование каждого решения в отдельный append-only sink. На фоне обсуждения налоговых льгот для создателей ИИ-моделей Минцифры фактически субсидирует появление именно таких команд — а значит, вопрос «как их обезопасить» станет регуляторным быстрее, чем кажется.

Что смотреть дальше

Конкуренты у Empirik пока формальные: партнёр Sequoia назвал категорию отдельной, упомянув Resolve и собственный портфельный Traversal. До осени Anthropic раскатает Enterprise Frontier Safeguards: zero retention, хранение данных на инфраструктуре клиента, флаги мониторинга уходят напрямую заказчику, а не в Anthropic. В разработке участвовали больше ста клиентов, включая Goldman Sachs, Morgan Stanley, Citi, Bank of America, Wells Fargo, Comcast, KPMG, Mastercard, Salesforce, Visa. Если это действительно работает как заявлено, расклад меняется — но до первых публичных отчётов об инцидентах с участием автономных SRE-агентов верить на слово никто не обязан.