Nota
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare ad accedere o modificare le directory.
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare a modificare le directory.
AI Gateway aiuta i team di piattaforma a fornire ad applicazioni e agenti accesso condiviso e governato a modelli e strumenti di intelligenza artificiale. Puoi portare il traffico AI esistente tramite AI Gateway per centralizzare le connessioni, applicare controlli focalizzati sull'IA e ottenere visibilità sull'utilizzo. Il punto di partenza potrebbero essere applicazioni che chiamano direttamente i provider, un gateway esistente o capacità di gateway AI in Gestione API di Azure.
Spostare un carico di lavoro significa modificare il modo in cui le chiamate a modelli e strumenti vengono gestite e instradate. Puoi mantenere le distribuzioni del modello sottostante, i servizi di strumenti e le piattaforme che gestiscono gli altri carichi di lavoro. Ad esempio, un assistente può utilizzare AI Gateway per l'accesso ai modelli e strumenti MCP federati, mentre le API aziendali continuano a utilizzare API Management.
Scegliere le funzionalità di cui le applicazioni hanno bisogno
Inizia con il miglioramento che desideri per applicazioni, agenti o operazioni di piattaforma. AI Gateway può aiutarti:
- Condividere le connessioni del modello approvate. Registra le implementazioni dei modelli esistenti ed esponi gli alias dei modelli affinché le applicazioni utilizzino nomi stabili mentre i team della piattaforma gestiscono le connessioni backend.
- Integrare gli strumenti per gli agenti. Pubblica strumenti da più backend MCP tramite un endpoint MCP gateway condiviso.
- Gestire il consumo di IA. Applicare le quote per i token e i budget stimati per la spesa del modello con controlli adatti al carico di lavoro e ai chiamanti.
- Comprendere l'utilizzo. Configura la telemetria per osservare l'attività di modelli e strumenti e indagare sulle richieste.
Seleziona i carichi di lavoro che beneficiano di queste capacità, poi verifica le operazioni di modello richieste, i trasporti MCP, l'autenticazione, le policy, il networking e la telemetria rispetto al supporto AI Gateway. Il supporto per un fornitore non implica supporto per ogni operazione che offre.
Se i tuoi carichi di lavoro usano Gestione API di Azure
Spostare i carichi di lavoro di IA selezionati è opzionale. AI Gateway e API Management sono complementari: si utilizza AI Gateway per una governance centrata su modelli e strumenti, e mantieni la gestione del ciclo di vita delle API, le esperienze del portale per sviluppatori e le API aziendali in API Management.
Le capacità di gateway AI nella gestione API rimangono supportate. Non è prevista una parità completa delle funzionalità dell'IA tra i prodotti, quindi valuta ogni carico di lavoro usando AI Gateway e Gestione API di Azure Service. Ad esempio, dipendenze dal bilanciamento del carico backend-pool, failover, cache semantica o API di agenti A2A possono essere motivi per mantenere un carico di lavoro in API Management o progettare un'alternativa prima di spostarlo.
Altri livelli di gestione API non sono influenzati dal ritiro del precedente SKU AIGateway. Se la tua risorsa utilizza quello SKU obsoleto, segui invece Eseguire la migrazione dallo SKU AIGateway in Gestione API di Azure.
Mappare il carico di lavoro su AI Gateway
Fai l’inventario delle connessioni dei modelli e degli strumenti che intendi portare attraverso AI Gateway, dei relativi chiamanti, servizi backend, credenziali, controlli, dipendenze di rete e operative. Usa quell'inventario per progettare la configurazione di destinazione.
| Configurazione esistente | Progetto di destinazione da valutare |
|---|---|
| Chiamate dirette a modelli o API di modello dietro un gateway | Fornitori di modelli e modelli registrati, con protocollo, endpoint e autenticazione backend necessari |
| Nomi dei modelli visibili ai clienti | Alias di modello che preservano i nomi usati dalle applicazioni ove possibile |
| Server MCP o operazioni API HTTP esposte come strumenti | I backend MCP e gli strumenti selezionati pubblicati tramite endpoint MCP gateway |
| Credenziali applicative e autorizzazione del chiamante, inclusi gli abbonamenti per la gestione API | Credenziali di runtime gateway o concessioni di accesso Microsoft Entra per i chiamanti richiesti |
| Controlli nelle applicazioni o in un gateway esistente | Controlli AI Gateway supportati configurati per i modelli, strumenti e chiamanti appropriati |
| Limiti di consumo e raggruppamento dei chiamanti | Criteri di limite di token e di costo che soddisfano i requisiti di limite consentito del carico di lavoro e di spesa stimata |
| Diagnostica, log e dashboard | Telemetria gateway, avvisi e dashboard che supportano controlli operativi equivalenti |
| Automazione della distribuzione | Definizioni di risorse e operazioni di gestione per Microsoft.ApiManagement/aigateways |
Considera questa mappatura come una valutazione progettuale, non come una conversione diretta della configurazione. Per i carichi di lavoro nella gestione API, API, prodotti, abbonamenti e policy devono essere mappati alla configurazione centrata su modelli e strumenti di AI Gateway. Una quota di token e un budget monetario stimato servono a scopi diversi; nessuno dei due sostituisce la fatturazione dei fornitori.