Единая точка доступа к языковым моделям с защитой данных и поимённым учётом расхода.

Единая точка доступа
Прокси принимает запросы агентов и направляет их поставщикам моделей по цепочке приоритета. Персональный агент обращается к серверному шлюзу; доступные цепочки и возможность использовать личные модели задаёт организация.
OpenRouter, Cloud.ru, GigaChat, YandexGPT, Ollama, LM Studio. Конфигурация меняется в панели администратора без перезапуска.
Недоступный поставщик временно исключается из цепочки — запрос уходит к резервному.
Администратор выбирает модель в настройках: облачная, корпоративная или развёрнутая локально.
В шаблоне конвейера каждый шаг может задать своего поставщика и модель — не меняя общей конфигурации организации.
Именованные цепочки моделей назначаются агентам, специализациям и шагам конвейера. Администратор определяет доступный набор цепочек, а пользователь выбирает подходящую в беседе. Параметры звеньев и резервные модели задаются в настройках.
Учёт и бюджеты
Каждый запрос учитывается сразу в нескольких разрезах — сводный отчёт не нужно собирать вручную.
Объём запросов и ответов к модели с оценкой стоимости — для расчёта затрат по каждому поставщику.
Какой ассистент сколько расходует.
Расход по конкретному пользователю.
Защита данных
При включённой политике DLP содержимое обращений обрабатывается настроенными детекторами до отправки в модель.
Обнаруженные чувствительные значения заменяются устойчивыми суррогатами. Это помогает модели сохранять связи между упоминаниями. В ответе пользователю может выполняться обратная подстановка в рамках доступного контекста соответствий.
Как безопасность, экономика и независимость от LLM связаны с шестью измерениями внедрения (Измерения 3, 4, 6).
Инструменты агента и подключение своих.
Изоляция данных подразделений, двухслойный DLP, аудит и ролевой доступ.