Concetti di Unity Gateway

Unity Gateway unisce registrazione, scoperta e accesso a modelli e strumenti di IA in un unico posto. Controlla chi può utilizzarli, monitora l'utilizzo e gestisce i costi tra applicazioni e agenti.

Unity Gateway utilizza questi concetti per gestire modelli, fornitori di modelli, strumenti, competenze e guardrail implementati con policy di servizio:

Concetto	Funzionamento	Example
Modello	Un LLM o un modello di embedding. Un modello registrato necessita di un servizio modello per soddisfare le richieste.	gpt-astra-6.
Servizio modello	Un endpoint che traduce e instrada le richieste di inferenza a uno o più modelli, con suddivisione del traffico e fallback. Supporta richieste in tempo reale, oltre all'inferenza batch.	frontier-model: GPT Astra 6 su Azure Databricks, con Claude Opus 5 come opzione di riserva. opus-5: Opus 5 fornito da Azure Databricks, con AWS Bedrock come soluzione di riserva.
Fornitore di modelli	Una connessione che instrada le richieste a un fornitore di modelli esterno utilizzando credenziali gestite centralmente.	anthropic-prod: Un collegamento con Anthropic.
MCP	Un'interfaccia per gli agenti per scoprire e chiamare strumenti tramite il Model Context Protocol (MCP).	support-tools: Strumenti per Slack e Jira.
Abilità	Istruzioni e file riutilizzabili che un agente carica per guidare il suo lavoro.	customer-support: Un manuale di supporto.
Politica di servizio	Implementa guardrail che controllano richieste e risposte ai servizi di IA, utilizzando politiche integrate, personalizzate o esterne .	La policy integrata detect_sensitive_data rileva tipi configurati di dati sensibili, come i numeri di carta di credito, nelle richieste e risposte dei modelli. Blocca o oscura le corrispondenti.

Come i pezzi si adattano insieme

Chiama un servizio di modelli per accedere a gpt-astra-6 su Azure Databricks, con lo stesso modello disponibile tramite aws-bedrock come alternativa di fallback. Puoi cambiare i modelli o i fallback senza modificare il nome richiamato dalla tua applicazione. Collegare la policy integrata del servizio di Rilevamento Dati Sensibili al servizio modello per verificare richieste e risposte per categorie di dati sensibili configurate.

Modelli di chiamata e strumenti

Sostituisci <workspace-url> e i nomi di esempio con i tuoi. Consulta la guida introduttiva rapida per configurare DATABRICKS_TOKEN.

Servizio modello

I servizi modello supportano API unificate come le Chat Completions compatibili con OpenAI e API native dei provider come Anthropic Messages per modelli compatibili.

Chiama frontier-model utilizzando l'API unificata Chat Completions. Il servizio sceglie il modello:

curl "https://<workspace-url>/ai-gateway/mlflow/v1/chat/completions" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "production.ai.frontier-model",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Vedi Query foundation e modelli di embedding per esempi SDK e altre API.

Fornitore di modelli

Chiama un modello esterno tramite anthropic-prod utilizzando l'API Messages di Anthropic. L'intestazione seleziona la connessione e Unity Gateway fornisce le sue credenziali:

curl "https://<workspace-url>/ai-gateway/anthropic/v1/messages" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Databricks-Model-Provider-Service: production.ai.anthropic-prod" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-opus-5",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Vedi Consulta Consulta i fornitori di modelli esterni (servizi dei fornitori di modello) per le API dei provider supportate.

MCP

Elenca gli strumenti disponibili tramite support-tools:

curl "https://<workspace-url>/ai-gateway/mcp-services/production.ai.support-tools" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -H "Accept: application/json, text/event-stream" \
  -d '{
    "jsonrpc": "2.0",
    "id": 1,
    "method": "tools/list",
    "params": {}
  }'

Vedi Usa gli strumenti MCP in un agente Python per chiamate di strumenti e integrazioni con agenti.

Catalogo Unity e controllo degli accessi

Unity Gateway si integra con Unity Catalog per controllare chi crea servizi,immatricola i provider di modelli, li chiama o condivide l'accesso. Unity Catalog regola anche i modelli registrati, le competenze e chi può allegare le policy di servizio.

Oggetti proteggibili di Unity Catalog

Modelli, servizi di modelli, provider di modelli, MCP e skill sono oggetti proteggibili di Unity Catalog: oggetti a cui è possibile concedere autorizzazioni. I loro nomi seguono catalog.schema.name, come production.ai.frontier-model. I servizi di modello forniti da Azure Databricks sono registrati in system.ai.

Un fornitore modello è registrato come servizio fornitore modello nel Catalogo Unity. I criteri di servizio sono associati ai servizi e non costituiscono oggetti a protezione autonoma.

In Unity Catalog, un modello è una risorsa inattiva: versioni, metadati e artefatti. Registrarlo non lo rende invocabile. Per i modelli esterni, registra la connessione del fornitore del modello invece del modello.

Autorizzazioni delle chiavi

Concedere permessi ad utenti, gruppi o responsabili del servizio. Per i servizi modello, i fornitori di modelli e i MCP, i permessi principali separano l'uso dall'amministrazione:

Privilege	Cosa permette
EXECUTE	Chiama un servizio modello, un fornitore modello o un MCP.
CREATE SERVICE	Creare servizi e integrare i fornitori modello in uno schema.
READ METADATA	Ispeziona la configurazione.
MANAGE	Cambia configurazione e concedi l'accesso ad altri.

I chiamanti devono inoltre disporre di USE CATALOG e USE SCHEMA nel catalogo e nello schema padre. Le politiche di servizio limitano le chiamate autorizzate. Non concedono l'accesso. Consulta la pagina di ciascun concetto per i requisiti completi di autorizzazione.

Per iniziare

Inizia con un servizio modello pronto all'uso da system.ai, oppure collega il tuo agente di codifica:

Topic	Description
Invia la tua prima richiesta	Consulta un modello e vedi il suo utilizzo nel gateway.
Collega un agente di codifica	Usa il tuo agente di codifica preferito con modelli forniti da Azure Databricks.
Monitorare l'utilizzo	Ispezionare l'attività, le prestazioni e i costi di modelli e strumenti.
Configurare la governance	Configura l'accesso e le politiche per l'uso dell'IA nella tua organizzazione.