Концепции Unity Gateway

Unity Gateway объединяет регистрацию, обнаружение и доступ к моделям и инструментам ИИ в одном месте. Контролировать, кто может их использовать, отслеживать их использование и управлять затратами между приложениями и агентами.

Unity Gateway использует следующие концепции для управления моделями, поставщиками моделей, инструментами, навыками и защитными механизмами, реализованными с помощью сервисных политик:

Концепция	Что делает	Example
Модель	LLM или эмбеддинговая модель. Зарегистрированной модели требуется сервис модели для обработки запросов.	gpt-astra-6.
Сервис моделей	Конечная точка, которая переводит и направляет запросы на вывод к одной или нескольким моделям с разделением трафика и запасными вариантами. Поддерживает запросы в реальном времени, а также пакетное вывод.	frontier-model: GPT Astra 6 на Azure Databricks, с Claude Opus 5 в качестве запасного варианта. opus-5: Opus 5 от Azure Databricks, с AWS Bedrock в качестве резервного варианта.
Поставщик модели	Соединение, которое направляет запросы к внешнему провайдеру модели с использованием централизованно управляемых учетных данных.	anthropic-prod: Подключение к Anthropic.
MCP	Интерфейс для агентов, чтобы находить и вызывать инструменты через протокол Model Context Protocol (MCP).	support-tools: Инструменты для Slack и Jira.
Мастерство	Повторно используемые инструкции и файлы, которые агент загружает для выполнения своей работы.	customer-support: Руководство по поддержке.
Политика обслуживания	Реализует ограничения, проверяющие запросы и ответы на сервисы ИИ.	Встроенная detect_sensitive_data политика обнаруживает настроенные типы чувствительных данных, таких как номера кредитных карт, в запросах и ответах моделей. Блокирует или скрывает совпадения.

Как все части сочетаются друг с другом

Вызовите сервис модели для доступа к gpt-astra-6 в Azure Databricks, при этом та же модель доступна через aws-bedrock в качестве резервного варианта. Вы можете менять модели или запасные варианты, не меняя название вашего приложения. Прикрепите встроенную политику сервиса обнаружения чувствительных данных к сервису модели для проверки запросов и ответов по настроенным категориям чувствительных данных.

Модели и инструменты вызовов

Замените <workspace-url> и иллюстративные имена на свои. Смотрите быстрый старт для настройки DATABRICKS_TOKEN.

Служба моделей

Сервисы моделей поддерживают унифицированные API, такие как совместимые с OpenAI Chat Completions и нативные API провайдера, например Anthropic Messages, для совместимых моделей.

Вызывайте frontier-model через единый Chat Completions API. Сервис выбирает модель:

curl "https://<workspace-url>/ai-gateway/mlflow/v1/chat/completions" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "production.ai.frontier-model",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

См. Основы запросов и модели встраивания для примеров SDK и других API.

Поставщик моделей

Вызовите внешнюю модель через anthropic-prod API Anthropic Messages. Заголовок выбирает соединение, и Unity Gateway предоставляет свои учетные данные:

curl "https://<workspace-url>/ai-gateway/anthropic/v1/messages" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Databricks-Model-Provider-Service: production.ai.anthropic-prod" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-opus-5",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

См. Запрос к внешним поставщикам моделей (сервисы поставщиков моделей) для получения сведений о поддерживаемых API поставщиков.

MCP

Перечислите инструменты, доступные через support-tools:

curl "https://<workspace-url>/ai-gateway/mcp-services/production.ai.support-tools" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -H "Accept: application/json, text/event-stream" \
  -d '{
    "jsonrpc": "2.0",
    "id": 1,
    "method": "tools/list",
    "params": {}
  }'

См. раздел «Использовать MCP-серверы в пользовательских агентах » для вызовов инструментов и интеграций агентов.

Unity Catalog и контроль доступа

Unity Gateway интегрируется с Unity Catalog, чтобы контролировать, кто создаёт сервисы, подключает поставщиков моделей, вызывает их или предоставляет доступ. Unity Catalog также управляет зарегистрированными моделями, навыками и тем, кто может назначать политики сервиса.

Защищаемые объекты Unity Catalog

Модели, сервисы моделей, поставщики моделей, MCP и навыки — это защищённые объекты Unity Catalog: объекты, на которые можно предоставить разрешения. Их имена указаны после catalog.schema.name, например, production.ai.frontier-model. Службы моделей, предоставляемые Azure Databricks, зарегистрированы в system.ai.

Поставщик моделей зарегистрирован как сервис поставщика моделей в каталоге Unity. Политики услуг связаны с сервисами и не являются самостоятельными гарантиями.

В Unity Catalog модель — это актив в состоянии покоя: версии, метаданные и артефакты. Регистрация не делает его пригодным для вызова. Для внешних моделей зарегистрируйте подключение поставщика модели, а не саму модель.

Разрешения для ключей

Предоставляйте разрешения пользователям, группам или руководителям сервиса. Для сервисов моделей, поставщиков моделей и MCP основные разрешения отделяют использование от администрирования:

Privilege	Что это позволяет
EXECUTE	Позвоните в модельную службу, модельного провайдера или в MCP.
CREATE SERVICE	Создавайте сервисы и подключайте поставщиков моделей в схеме.
READ METADATA	Проверьте конфигурацию.
MANAGE	Измените конфигурацию и предоставьте доступ другим.

Вызывающим сторонам также требуются USE CATALOG и USE SCHEMA для родительских каталога и схемы. Сервисные политики ограничивают разрешенные звонки. Они не предоставляют доступ. См. страницу каждого понятия, чтобы узнать полные требования к разрешениям.

Get started

Начните с готовой модели сервиса из system.ai, или подключите вашего программиста:

Тема	Description
Отправьте свой первый запрос	Запросите модель и увидите её использование в шлюзе.
Подключите программирующего агента	Используйте предпочитаемый вами программный агент с моделями, предоставленными Azure Databricks.
Мониторинг использования	Проверьте активность моделей и инструментов, их производительность и стоимость.
Настройка системы управления	Настройте доступ и политики для использования ИИ вашей организацией.