Cloud.ru выложил в открытый доступ инструмент для защиты данных в LLM

По словам гендиректора компании Михаила Лобоцкого, релиз адресован тем, кто хочет внедрять генеративный ИИ, но упирается в требования безопасности и регуляторики. Для аудитории, выбирающей стек под реальные задачи, это редкий случай — опенсорс от крупного облачного игрока, а не очередное маркетинговое обещание «военного уровня шифрования».

Механика подмены

Принцип работы честный и довольно простой: фильтр встаёт между корпоративным приложением и LLM. На входе сервис распознаёт в запросах пользователя персональные данные, API-ключи, пароли и прочую конфиденциальную информацию, заменяет её синтетическими значениями и отправляет модели уже очищенный текст. На выходе ответ проходит обратное восстановление — пользователь видит корректный результат, но реальные чувствительные данные до внешней системы не доходят. По данным Cloud.ru, на публичном бенчмарке pii-bench инструмент набрал 93,1 балла по метрике F1, а точность срабатываний достигла 99,9%.

Развёртывание и кастомизация

Опенсорс-версия доступна в двух сборках — Standalone и ExtProc — на GitHub и GitVerse. Ключевой момент: фильтр не привязан к платформе Cloud.ru и работает с моделями любых провайдеров. Управление идёт через личный кабинет: настройка правил, тестирование, журналы событий безопасности. До боевого включения есть Ghost Mode — он прогоняет трафик через фильтр в режиме наблюдения и показывает, какие данные сервис посчитает чувствительными, не блокируя реальные запросы. Помимо стандартных правил обнаружения PII, компании могут задавать свои — например, на внутренние номера договоров, идентификаторы клиентов или кодовые названия проектов. Guardrails Filter уже используется внутри AI Factory для защиты запросов к Foundation Models, то есть это не лабораторный прототип, а обкатанный код.

Что отслеживать перед продакшеном

Прежде чем тащить инструмент в контур, стоит проверить три вещи. Первое — реальное покрытие PII на ваших данных: цифра в 99,9% точности ничего не стоит, если фильтр не ловит именно вашу кастомную разметку, и без прогона на боевых логах вы это не узнаете. Второе — политика обновлений: опенсорс без понятного SLA быстро превращается в неподдерживаемый код, особенно когда меняются версии внешних моделей и паттерны утечек. Третье — где физически работает фильтр: заявленный сценарий — внутри периметра компании, но сетевые маршруты и конфигурация по умолчанию требуют ручной проверки. На фоне общих новостей о защите данных это тот релиз, к которому стоит присмотреться предметно — но без иллюзий, что коробочный инструмент закроет все дыры сам.