Governance dell'intelligenza artificiale con Unity AI Gateway

Unity AI Gateway è la soluzione di governance Azure Databricks per l'intelligenza artificiale aziendale. Basato su Unity Catalog, estende la governance oltre i dati e gli asset di intelligenza artificiale alle interazioni di runtime tra modelli, agenti, server MCP e strumenti. Controlla quali servizi di IA i team possono utilizzare, instrada e gestisci il traffico IA, imposta regole di controllo e monitora l’utilizzo da un unico piano di controllo.

Azure Databricks serve grandi modelli linguistici (LLM) nativamente tramite le API dei Foundation Model, così ottieni accesso pay-per-token a modelli come GPT, Claude e Gemini senza infrastrutture da eseguire. Puoi anche collegare provider modello esterni e instradare le loro API tramite lo stesso controllo di accesso e gestione del traffico.

Get started

Configura e applica la governance dell'IA alle tue risorse di IA, al traffico e al comportamento del servizio.

Argomento	Descrzione
Guida alla governance dell'intelligenza artificiale	Un percorso end-to-end che consente agli amministratori di gestire l'accesso agli asset di intelligenza artificiale, al traffico e ai costi e al contenuto di richieste e risposte.
Esercitazione: Gestire l'accesso MCP GitHub di un agente di codifica	Limita l'accesso di un agente di codifica agli strumenti GitHub MCP usando le autorizzazioni di Unity Catalog e i criteri di servizio integrati.
Esercitazione: Implementare protezioni in un servizio modello con criteri di servizio	Implementare protezioni in un servizio modello usando criteri di servizio predefiniti e personalizzati.
Tutorial: Monitorare la spesa del modello di base per utente, team o progetto	Identifica i fattori di spesa per LLM attribuendo costi ad utenti, team o progetti con service tag e request tag.

Controlla l'accesso ai servizi di IA

Registrare gli asset di intelligenza artificiale come oggetti a protezione diretta di Unity Catalog, quindi concedere e revocare l'accesso con gli stessi privilegi usati per tabelle e volumi. Gli agenti sono governati tramite questi stessi oggetti proteggibili: un agente viene registrato come modello di Unity Catalog e gli strumenti che richiama sono governati come servizi, funzioni e connessioni MCP.

Argomento	Descrzione
API di modelli	I modelli di query foundation servivano nativamente system.ai senza configurazione e governavano l'accesso tramite i privilegi del Catalogo Unity.
Fornitori di modelli esterni	Collega provider come OpenAI e Anthropic con bring your own key (BYOK) e gestili tramite un unico punto di controllo.
Modelli	Governare i modelli registrati, inclusi i modelli di fondazione serviti da Azure Databricks, con i privilegi del Catalogo Unity.
Autorizzazioni del modello di base	Limita quali modelli di fondazione serviti da Azure Databricks la tua organizzazione può accedere, sia per tutto l'account che per gruppo.
Strumenti MCP	Gestisci i server MCP registrati come oggetti protetti di Unity Catalog, con filtri degli strumenti e criteri del servizio.
Strumenti personalizzati	Gestire le funzioni del catalogo Unity usate dagli agenti come strumenti, con gli stessi privilegi usati per i dati.
Connessioni HTTP	Gestire le connessioni del catalogo Unity usate per raggiungere le API esterne e i server MCP.
Crea API personalizzate per modelli	Opzionale: Aggiungi i tuoi endpoint governati quando hai bisogno di modelli oltre i valori predefiniti pronti all'uso system.ai .

Indirizzare e gestire il traffico di intelligenza artificiale

Unity AI Gateway instrada le richieste al modello e ai servizi MCP da un piano di controllo centrale, in modo da poter gestire capacità, disponibilità e spesa tra i provider.

Argomento	Descrzione
Applicare limiti di frequenza	Applicare limiti di consumo ai servizi modello e ai servizi MCP per gestire capacità e costi.
Configurare la suddivisione del traffico e i meccanismi di ripiego	Distribuire le richieste tra più destinazioni del modello e aggiungere failover per aumentare la disponibilità.
Gestire i budget	Monitorare la spesa e impostare soglie per utente e limiti rigidi.

Impostare protezioni e criteri di accesso

I criteri di servizio, detti anche guardrail, controllano il modo in cui ogni richiesta e risposta procede, in base al contenuto e all'utente che effettua la chiamata.

Argomento	Descrzione
Criteri del servizio per le risorse proteggibili di IA	In che modo i criteri di servizio regolano il contenuto delle richieste e delle risposte ai servizi di intelligenza artificiale, usando criteri predefiniti e personalizzati.
Creare e associare un criterio di servizio	Come scrivere una funzione di policy di servizio e allegarla a un servizio MCP o a un servizio modello.

Monitorare l'utilizzo, i costi e i rischi

Tenere traccia dell'attività, della spesa e dei risultati in tutti i servizi gateway di intelligenza artificiale Unity.

Argomento	Descrzione
Panoramica dell'osservabilità	Scegli lo strumento giusto per monitorare l'uso, i costi, le prestazioni e l'attività dell'IA tra i servizi.
Monitorare l'utilizzo	Monitorare le richieste, l'uso dei token e la latenza attraverso Unity AI Gateway utilizzando le tabelle di sistema.
Analizzare i costi	Attribuisci i costi di Azure Databricks ai servizi, ai modelli di destinazione, alle identità e ai tag.
Richieste e risposte di verifica	Registrare le richieste e le risposte alle tabelle Delta del catalogo Unity per il monitoraggio e il debug.