Che cos'è il gateway di intelligenza artificiale?

SI APPLICA A: AI Gateway (anteprima)

Importante

AI Gateway è attualmente in anteprima pubblica. Durante l'anteprima pubblica, AI Gateway è disponibile nelle seguenti regioni:

  • Stati Uniti - Stati Uniti orientali 2
  • Europa - Svezia Centrale

AI Gateway è un gateway gestito per il traffico AI, incluse le richieste a modelli di IA e server Model Context Protocol (MCP). Fornisce alle organizzazioni un punto di controllo condiviso su come applicazioni e agenti si connettono ai servizi di IA, consumano risorse e accedono agli strumenti.

Con la crescita dell'adozione dell'IA, i team si collegano a modelli e strumenti gestiti da diversi fornitori. Gestire ogni connessione in modo indipendente può duplicare la gestione delle credenziali e i controlli di consumo, rendendo l'uso più difficile da comprendere. AI Gateway unisce queste connessioni così che i team della piattaforma possano gestirle centralmente mentre gli sviluppatori si concentrano sulla creazione di applicazioni.

Diagramma che mostra utenti, agenti AI, app e dispositivi che si collegano tramite AI Gateway a modelli e strumenti.

Funzionalità principali

Collega le applicazioni ai modelli. Portare le implementazioni esistenti di Microsoft Foundry e i provider di modelli personalizzati compatibili tramite endpoint del gateway. Gli alias dei modelli forniscono alle applicazioni nomi stabili mentre i team della piattaforma gestiscono le connessioni backend.

Strumenti di pubblicazione per gli agenti. Combina strumenti da server MCP remoti, API descritte da OpenAPI e connettori integrati dietro endpoint gateway MCP. Ad esempio, un assistente può utilizzare strumenti approvati da diversi servizi tramite una connessione condivisa.

Gestire l'accesso e la governance. Separare le credenziali dell'applicazione da quelle del backend. Applica controlli condivisi per accesso, consumo e spesa stimata del modello invece di implementare ogni controllo in ogni applicazione.

Supportare la connettività e la visibilità aziendale. Connettiti ai backend tramite percorsi di rete controllati, inclusa la connettività virtuale per backend privati. Usa la telemetria per capire l'uso di modelli e strumenti e per indagare sulle richieste.

Aiuta gli sviluppatori a riutilizzare le funzionalità approvate. Fornire un catalogo dove gli sviluppatori possano scoprire e testare modelli e strumenti prima di collegare applicazioni e agenti.

Per le relazioni tra questi elementi, vedi concetti di AI Gateway.

Relazione con Gestione API di Azure

AI Gateway è un prodotto dedicato al traffico AI. Il servizio Gestione API di Azure offre una gestione completa del ciclo di vita delle API e supporta anche le funzionalità di gateway AI. I prodotti condividono il fornitore di Microsoft.ApiManagement risorse ma utilizzano tipi di risorsa Azure diversi.

Puoi usare entrambi i prodotti: mantenere le API aziendali nel servizio di gestione API e usare AI Gateway per il traffico di modelli e strumenti. I carichi di lavoro di IA esistenti in altri SKU di gestione API rimangono supportati. Per considerazioni di adozione, vedi AI Gateway e Gestione API di Azure service.