Читайте в Telegram
|
Cloud.ru опубликовал исходный код Guardrails Filter — инструмента для защиты чувствительных данных при работе с большими языковыми моделями, сообщили «Коду Дурова» в пресс-службе облачного провайдера.
Теперь компании смогут бесплатно развернуть сервис в собственной инфраструктуре и использовать его с ИИ-моделями любых провайдеров. Опенсорс-версия не привязана к платформе Cloud.ru.
- Guardrails Filter работает между корпоративными приложениями и ИИ-моделью. Инструмент проверяет запросы пользователей и ответы модели на наличие чувствительных данных — например персональных данных, API-ключей, паролей и другой конфиденциальной информации.
- Перед отправкой запроса в языковую модель сервис автоматически заменяет реальные данные синтетическими значениями. После получения ответа Guardrails Filter восстанавливает исходные данные. Так пользователь получает корректный результат, но реальные данные не передаются модели.
- Инструмент уже используется в цифровой среде AI Factory для защиты запросов к сервису Foundation Models, а также в пилотных, коммерческих и внутренних проектах Cloud.ru.
В опенсорс-версии доступны стандартные правила обнаружения чувствительных данных. Компании также могут создавать собственные правила, например, для внутренних номеров договоров, идентификаторов клиентов или кодовых названий проектов.
В Cloud.ru отмечают, что качество работы Guardrails Filter подтверждено на публичном бенчмарке pii-bench. Инструмент набрал 93,1 балла по метрике F1, а точность срабатываний достигла 99,9%. По словам компании, это означает, что примерно 999 из 1000 срабатываний оказываются верными.
Исходный код Guardrails Filter в версиях Standalone и ExtProc доступен на GitHub и GitVerse.
