Gateway di gestione degli strumenti

Collega Azure AI Gateway o un gateway LiteLLM a Microsoft Agent 365 per scoprire e governare i server Model Context Protocol (MCP) registrati presso il gateway. L'Agent 365 integra i server MCP registrati nell'esperienza degli strumenti, dove gli amministratori possono esaminarli e governarli, monitorare l'attività dei server MCP e configurare le protezioni di sicurezza supportate per le chiamate agli strumenti MCP.

Attualmente Agent 365 supporta Azure AI Gateway e LiteLLM. Ogni gateway richiede il proprio processo di connessione e configurazione.

Usa la sezione relativa al tuo gateway per completare la connessione e la configurazione di protezione. Poi usa i passaggi condivisi di scoperta e governance:

Important

  • Questa funzionalità è in versione di anteprima.
  • Le funzionalità di anteprima non sono destinate ad essere utilizzate per la produzione e sono soggette a restrizioni. Queste funzionalità sono soggette a condizioni per l'utilizzo supplementari e sono disponibili prima del rilascio ufficiale in modo che i clienti possano ottenere un accesso anticipato e fornire feedback.

Connect Azure AI Gateway

Usa questa sezione per connettere Azure AI Gateway e, se necessario, configurare la protezione delle chiamate degli strumenti.

Azure AI Gateway prerequisites

Prima di connettere Azure AI Gateway, assicurati che il gateway sia configurato, che tu abbia il ruolo di Amministratore Globale in Microsoft 365 e che i suoi server MCP siano registrati. Per prerequisiti dettagliati, configurazione e indicazioni sulla governance, consulta Gestire gli strumenti con Microsoft Agent 365 e Gestione API di Azure (anteprima).

Collega il gateway Azure a Microsoft 365

Note

Devi avere il ruolo di Amministratore Globale per connettere Azure AI Gateway. Il ruolo di Amministratore AI non supporta questa operazione.

  1. Accedere all'interfaccia di amministrazione di Microsoft 365 come amministratore globale.
  2. Vai in Agenti>.
  3. Seleziona Gateways.
  4. Accanto a Microsoft Azure, attiva l'interruttore per collegare un servizio Gestione API di Azure o un Azure AI Gateway.
  5. Verificare e accettare le autorizzazioni richieste.

Devi fornire il consenso una volta per ogni tenant, e questo vale per tutti i server MCP nel gateway connesso. I singoli server non richiedono un consenso distinto.

Note

Dopo aver connesso il gateway, Agent 365 scopre i server MCP registrati con esso e li rende disponibili nella pagina degli Strumenti. La scoperta potrebbe richiedere qualche minuto. Vai su Agents>Tools e aggiorna la pagina per visualizzare i server MCP scoperti. Per gestire i server MCP scoperti, vedi Scoprire e governare i server MCP.

Proteggi le chiamate agli strumenti Azure AI Gateway con Microsoft Defender

Per proteggere le chiamate di strumenti tramite Azure AI Gateway, configura la policy Agent 365 tool threat protection nel portale AI Gateway. La policy utilizza Microsoft Defender e Microsoft Purview per valutare le richieste di strumenti e i relativi risultati.

Per i prerequisiti e i passaggi di configurazione specifici per il gateway, vedi Proteggere le chiamate agli strumenti con Defender e Purview nel livello AI Gateway (anteprima). Questa protezione richiede il livello AI Gateway in Gestione API di Azure e un token utente Microsoft Entra ID delegato. Le chiamate service-to-service solo con app non sono supportate.

Per monitorare l'attività dei server MCP, vedi Monitorare e osservare l'attività dei server MCP.

Connetti LiteLLM

Microsoft Agent 365 ti permette di connetterti a un gateway LiteLLM per scoprire e governare i suoi server MCP registrati e proteggere le chiamate agli strumenti MCP. LiteLLM è un gateway AI di terze parti e non è costruito né supportato da Microsoft. Per informazioni su LiteLLM e sulla registrazione dei server MCP con il suo gateway, consulta LiteLLM gateway nella documentazione di LiteLLM.

Prerequisiti per LiteLLM

Prima di iniziare, assicurarsi di:

  • Hai accesso a un gateway LiteLLM con server MCP registrati.
  • Hai un nome gateway, un URL gateway e una chiave API per il proxy LiteLLM.
  • Hai il ruolo di Amministratore Globale in Microsoft 365 per accedere al interfaccia di amministrazione di Microsoft 365. Questo requisito si applica a Microsoft 365, non ai ruoli in LiteLLM.

Le sezioni seguenti spiegano come connettere il gateway LiteLLM e configurare la protezione per le chiamate agli strumenti MCP. Dopo la configurazione, usa i passaggi condivisi per scoprire e gestire i server MCP.

Collega il gateway LiteLLM a Microsoft 365

  1. Accedi al interfaccia di amministrazione di Microsoft 365 con il ruolo di amministratore Microsoft 365 elencato nei prerequisiti.
  2. Vai su Agenti>Impostazioni>Gateway.
  3. In LiteLLM Gateway, seleziona Collega gateway.
  4. Immettere le informazioni seguenti:
    • Nome gateway: Un nome amichevole per identificare questo gateway nel interfaccia di amministrazione di Microsoft 365.
    • URL gateway: L'URL del tuo proxy LiteLLM.
    • Chiave API: Una chiave API per il proxy LiteLLM.

Devi fornire il consenso una volta per ogni tenant, e questo vale per tutti i server MCP nel gateway connesso. I singoli server non richiedono un consenso distinto.

Note

Dopo aver connesso il gateway LiteLLM, l'Agente 365 scopre i server MCP registrati con esso e li rende disponibili nella pagina degli strumenti . La scoperta potrebbe richiedere qualche minuto. Vai su Agents>Tools e aggiorna la pagina per visualizzare i server MCP scoperti. Per gestire i server MCP scoperti, vedi Individuare e governare i server MCP

Proteggere le chiamate agli strumenti MCP di LiteLLM

Microsoft Agent 365 Guardrails utilizza Microsoft Defender per valutare le chiamate agli strumenti MCP effettuate da LiteLLM e fornire protezione contro le minacce in runtime.

Configura la protezione in questo ordine:

  1. Crea o identifica l'applicazione Microsoft Entra che LiteLLM utilizza per il gateway.
  2. Completa la configurazione richiesta di Microsoft Entra.
  3. Completa la configurazione corrispondente in LiteLLM.

Creare la registrazione dell'app

  1. Nel Interfaccia di amministrazione di Microsoft Entra, passa al tenant target.
  2. Passare a Registrazioni app e quindi selezionare Nuova registrazione.
  3. Per il nome dell'applicazione, inserisci litellm-enterprise-api.
  4. Per Tipi di account supportati, selezionare Solo account in questa directory organizzativa.
  5. Seleziona Registro.
  6. Copia l'ID dell'applicazione (client) e conservalo come GATEWAY_API_APP_ID per la configurazione di LiteLLM.

Note

Se il gateway ha già un'applicazione API appropriata, riutilizza l'applicazione esistente invece di crearne un'altra. Preserva i suoi ruoli, assegnazioni, credenziali e permessi non correlati esistenti.

Configura LiteLLM

Dopo aver completato la configurazione di Microsoft Entra, usa GATEWAY_API_APP_ID per completare la corrispondente configurazione del gateway. Per le indicazioni sulla configurazione di LiteLLM, vedi il gateway LiteLLM nella documentazione di LiteLLM.

Scopri e governa i server MCP

Dopo aver connesso Azure AI Gateway o LiteLLM, puoi accedere ai server MCP che si registrano con il gateway connesso tramite l'esperienza Tools nel interfaccia di amministrazione di Microsoft 365. Questi passaggi di scoperta e governance sono comuni a entrambi i gateway.

  1. Nell'interfaccia di amministrazione di Microsoft 365, passare a Agenti>Strumenti.
  2. Filtra la lista per sorgente, poi seleziona il gateway i cui server MCP vuoi visualizzare.
  3. Seleziona un server MCP per esaminarne i dettagli e gli strumenti che espone.

Puoi bloccare o consentire un server MCP per gestirne la disponibilità. Per la procedura di governance comune, vedi Blocca o consenti un server MCP.

Per i server MCP supportati, puoi anche gestire la disponibilità di singoli strumenti. Per ulteriori informazioni, vedere Gestire i singoli strumenti all'interno di un server MCP.

  • Ultimo aggiornamento: