Главная / Продукты / LLM Guard

LLM Guard

Хотите использовать GPT-4 и Claude, но данные нельзя передавать наружу?

🔒
IT-политика запрещает внешние LLM

Корпоративная безопасность или требования регулятора не позволяют отправлять данные клиентов в OpenAI или другие облачные сервисы.

⚠️
Персональные данные утекают в промпты

Сотрудники отправляют ФИО, ИИН, номера договоров и телефоны в ChatGPT — часто не задумываясь об этом.

📋
Требования законодательства о ПДн

Закон РК о персональных данных и международные стандарты (GDPR) требуют контролировать, куда и в каком виде передаются данные субъектов.

🧠
Хочется сильные модели — безопасно

Модели GPT, Claude, Gemini дают качественный результат, но без защиты данных их использование в корпоративных задачах под запретом.

Именно для этого — LLM Guard

Прозрачная защита: пользователи работают как обычно, персональные данные не покидают контур.

Что такое LLM Guard?

LLM Guard — это OpenAI-совместимый прокси-сервер, который встаёт между вашим приложением и любым LLM-провайдером. Разворачивается на вашей инфраструктуре или в нашем защищённом облаке.

Приложение обращается к LLM Guard так же, как к OpenAI API — никаких изменений в коде. LLM Guard перехватывает запрос, находит и маскирует персональные данные, отправляет очищенный текст провайдеру, и опционально восстанавливает оригиналы в ответе.

  • Прозрачная замена: работает как OpenAI API — менять код не нужно
  • Поддержка любых провайдеров: OpenAI, OpenRouter, Ollama, Azure
  • Персональные данные не покидают ваш контур
  • Полный аудит-лог каждого запроса
  • On-prem или облако — на ваш выбор

Как это работает

flowchart TD A["Ваше приложение (OpenWebUI, бот, API)"] --> B["LLM Guard прокси"] B --> C["Анонимизация ПДн уровень 1/2/3"] C --> D["LLM-провайдер OpenAI / Ollama / ..."] D --> E["Деанонимизация (опционально)"] E --> F["Ответ с реальными данными"] B --> G[("Аудит-лог")]

Три уровня анонимизации

Выбирайте уровень под задачу — от миллисекунд до контекстного понимания.

Уровень 1 · Regex
Быстрая маскировка

Миллисекунды. Regex-правила для структурированных данных:

  • Email, телефон, банковские карты
  • ИИН, БИН, СНИЛС, паспорт РФ
  • URL, IP-адреса, IBAN
Уровень 2 · NLP
Распознавание сущностей

Сотни миллисекунд. Локальные NLP-модели (Presidio + spaCy + Natasha):

  • ФИО, названия организаций
  • Адреса, города, локации
  • Даты, суммы денег
Уровень 3 · LLM
Контекстное понимание

Секунды. Малая LLM (разворачиваемая в корпоративном контуре) понимает контекст:

  • Косвенные идентификаторы
  • Бизнес-специфичные термины
  • Данные, скрытые в контексте

Ключевые возможности

  • Деанонимизация. Восстанавливает оригинальные данные в ответе — пользователь получает текст с реальными именами и номерами.
  • Настройка под проект. Каждый проект: свой LLM-провайдер, API-ключ, уровень анонимизации, список типов ПДн.
  • Блокировка по запросу. Опция «запретить запрос при обнаружении ПДн» — если данные нельзя маскировать, запрос не уходит.
  • Admin UI. HTMX-интерфейс: управление проектами, просмотр аудит-лога, статистика по найденным сущностям.
  • Кастомные паттерны. Добавляйте свои regex под специфичные данные компании.
  • Streaming. Поддержка SSE-стриминга — ответы появляются в реальном времени.

Кому подойдёт

  • 🛡️ IT-директорам — on-prem, полный контроль, аудит-лог для compliance
  • ⚖️ Юридическим отделам — проверка договоров на сильных моделях без утечки контрагентов
  • 📞 Службам поддержки — AI-ассистенты с данными клиентов, защищённые по умолчанию
  • 🤖 Разработчикам AI-продуктов — встраивание защиты ПДн без переработки архитектуры
  • 🏥 Чувствительным отраслям — медицина, финансы, юриспруденция, HR
Интеграция с Digital Mentor

LLM Guard встраивается в платформу Digital Mentor (OpenWebUI) — сотрудники используют корпоративный ChatGPT, а все запросы к внешним LLM проходят через защитный слой.

Смотреть кейс

Тарифы

СТАРТ
99 000 ₸ / мес
  • До 50 000 запросов/мес
  • Уровень 1 (Regex)
  • 1 проект
  • Облачный деплой
  • Базовый аудит-лог
БИЗНЕС
299 000 ₸ / мес
  • До 200 000 запросов/мес
  • Все 3 уровня анонимизации
  • До 5 проектов
  • Деанонимизация
  • Полный аудит-лог + Admin UI
КОРПОРАТИВНЫЙ
По запросу
  • Без ограничений по запросам
  • On-prem установка
  • Любое количество проектов
  • Кастомные паттерны ПДн
  • SLA и техподдержка

Оставьте заявку — свяжемся в течение дня

Расскажите о задаче — предложим решение и оценку бюджета

Нажимая «Отправить заявку», вы соглашаетесь на обработку персональных данных