Tools Gateway verwalten

Verbinden Sie das Azure AI Gateway oder ein LiteLLM-Gateway mit Microsoft Agent 365, um die am Gateway registrierten Model Context Protocol (MCP)-Server zu entdecken und zu verwalten. Agent 365 bringt die registrierten MCP-Server in den Tools-Bereich, in dem Administratoren sie überprüfen und steuern, die MCP-Serveraktivitäten überwachen und unterstützte Sicherheitsschutzmaßnahmen für MCP-Toolaufrufe konfigurieren können.

Agent 365 unterstützt derzeit Azure AI Gateway und LiteLLM. Jedes Gateway benötigt einen eigenen Verbindungs- und Konfigurationsprozess.

Nutzen Sie den Abschnitt für Ihr Gateway, um die Konfiguration der Verbindung und des Schutzes abzuschließen. Verwenden Sie dann die Shared Discovery- und Governance-Schritte:

Important

  • Diese Funktion befindet sich in der Vorschauversion.
  • Funktionen in der Vorschauversion sind nicht für den Produktionseinsatz gedacht und können eine eingeschränkte Funktionalität aufweisen. Für diese Features gelten ergänzende Nutzungsbedingungen. Die Features werden vor einer offiziellen Veröffentlichung zur Verfügung gestellt, sodass die Kundschaft frühzeitig Zugriff erhält und Feedback geben kann.

Connect Azure AI Gateway

Nutzen Sie diesen Abschnitt, um das Azure AI Gateway zu verbinden und gegebenenfalls den Schutz für Tool-Anrufe zu konfigurieren.

Azure AI Gateway prerequisites

Bevor Sie eine Verbindung mit dem Azure AI Gateway herstellen, stellen Sie sicher, dass das Gateway konfiguriert ist, Sie die Rolle des Globalen Administrators in Microsoft 365 haben und die MCP-Server registriert sind. Für detaillierte Voraussetzungen, Konfiguration und Governance-Anleitungen siehe Tools mit Microsoft Agent 365 und Azure API Management verwalten (Vorschau).

Verbinden Sie das Azure Gateway mit Microsoft 365

Notiz

Sie müssen die Rolle des Globalen Administrators haben, um eine Verbindung mit Azure AI Gateway herzustellen. Die Rolle des KI-Administrators unterstützt diese Operation nicht.

  1. Melden Sie sich beim Microsoft 365 Admin Center als globaler Administrator an.
  2. Wechseln Sie zu Agenten>.
  3. Gateways auswählen.
  4. Aktivieren Sie neben Microsoft Azure den Schalter, um einen Azure API Management-Dienst oder Azure AI Gateway zu verbinden.
  5. Überprüfen und akzeptieren Sie die erforderlichen Berechtigungen.

Du musst einmal pro Tenant die Zustimmung geben, und sie gilt für alle MCP-Server im verbundenen Gateway. Einzelne Server benötigen keine gesonderte Zustimmung.

Notiz

Nachdem Sie das Gateway angeschlossen haben, entdeckt Agent 365 die dort registrierten MCP-Server und stellt sie auf der Tools-Seite zur Verfügung. Die Entdeckung könnte ein paar Minuten dauern. Gehe zu Agents>Tools und aktualisiere die Seite, um die entdeckten MCP-Server anzusehen. Um die entdeckten MCP-Server zu verwalten, siehe MCP-Server entdecken und verwalten.

Schütze Azure AI Gateway Tool-Aufrufe mit Microsoft Defender

Um Toolaufrufe über Azure AI Gateway zu schützen, konfigurieren Sie die Agent 365 Tool Threat Protection Policy im AI Gateway Portal. Die Richtlinie verwendet Microsoft Defender und Microsoft Purview, um Werkzeuganfragen und -ergebnisse zu bewerten.

Für Voraussetzungen und gateway-spezifische Konfigurationsschritte siehe Toolaufrufe mit Defender und Purview im AI-Gateway-Tier (Vorschau) schützen. Dieser Schutz erfordert das AI-Gateway-Tier im Azure API Management sowie ein delegiertes Microsoft Entra ID-Benutzertoken. Reine App-zu-App-Aufrufe werden nicht unterstützt.

Um die MCP-Serveraktivität zu überwachen, lesen Sie Überwachen und die MCP-Serveraktivität beobachten.

Connect LiteLLM

Microsoft Agent 365 ermöglicht es Ihnen, sich mit einem LiteLLM-Gateway zu verbinden, um dessen registrierte MCP-Server zu entdecken und zu verwalten sowie MCP-Tool-Aufrufe zu schützen. LiteLLM ist ein Drittanbieter-KI-Gateway und wird weder von Microsoft entwickelt noch unterstützt. Informationen zu LiteLLM und der Registrierung von MCP-Servern mit seinem Gateway finden Sie unter LiteLLM Gateway in der LiteLLM-Dokumentation.

LiteLLM-Voraussetzungen

Bevor Sie beginnen, stellen Sie folgendes sicher:

  • Du hast Zugang zu einem LiteLLM-Gateway mit registrierten MCP-Servern.
  • Du hast einen Gateway-Namen, eine Gateway-URL und einen API-Schlüssel für den LiteLLM-Proxy.
  • Sie haben die Rolle des Globalen Administrators in Microsoft 365, um auf das Microsoft 365 Admin Center zuzugreifen. Diese Anforderung gilt für Microsoft 365, nicht für Rollen in LiteLLM.

Die folgenden Abschnitte erklären, wie man das LiteLLM-Gateway verbindet und Schutz für MCP-Toolaufrufe konfiguriert. Nach der Einrichtung verwenden Sie die gemeinsamen Schritte, um MCP-Server zu entdecken und zu verwalten.

Verbinden Sie das LiteLLM-Gateway mit Microsoft 365

  1. Melden Sie sich mit der in den Voraussetzungen aufgeführten Microsoft 365-Administratorrolle im Microsoft 365 Admin Center an.
  2. Gehe zu Agents>Settings>Gateways.
  3. Unter LiteLLM Gateway wählen Sie Connect Gateway.
  4. Geben Sie die folgenden Informationen ein:
    • Gateway-Name: Ein freundlicher Name zur Kennzeichnung dieses Gateways im Microsoft 365 Admin Center.
    • Gateway-URL: Die URL Ihres LiteLLM-Proxys.
    • API-Schlüssel: Ein API-Schlüssel für den LiteLLM-Proxy.

Du musst einmal pro Tenant die Zustimmung geben, und sie gilt für alle MCP-Server im verbundenen Gateway. Einzelne Server benötigen keine gesonderte Zustimmung.

Notiz

Nachdem du das LiteLLM-Gateway verbunden hast, entdeckt Agent 365 die dort registrierten MCP-Server und stellt sie auf der Tools-Seite zur Verfügung. Die Entdeckung könnte ein paar Minuten dauern. Gehe zu Agents>Tools und aktualisiere die Seite, um die entdeckten MCP-Server anzusehen. Um die entdeckten MCP-Server zu verwalten, siehe MCP-Server entdecken und verwalten

LiteLLM-MCP-Toolaufrufe schützen

Microsoft Agent 365 Guardrails verwendet Microsoft Defender, um MCP-Toolaufrufe, die LiteLLM ausführt, auszuwerten und Laufzeitschutz vor Bedrohungen zu bieten.

Konfigurieren Sie den Schutz in folgender Reihenfolge:

  1. Erstellen oder identifizieren Sie die Microsoft Entra-Anwendung, die von LiteLLM für das Gateway verwendet wird.
  2. Erledigen Sie die erforderliche Microsoft Entra-Konfiguration.
  3. Füllen Sie die entsprechende Konfiguration in LiteLLM aus.

Erstellen der App-Registrierung

  1. Im Microsoft Entra Admin Center wechseln Sie zum Zielmanden.
  2. Wechseln Sie zu App-Registrierungen, und wählen Sie dann Neue Registrierung aus.
  3. Für den Anwendungsnamen geben Sie litellm-enterprise-api ein.
  4. Wählen Sie für Unterstützte Kontotypen die Option Nur Konten in diesem Organisationsverzeichnis aus.
  5. Wählen Sie Registrieren aus.
  6. Kopiere die Anwendungs-(Client-)ID und behalte sie als GATEWAY_API_APP_ID für die LiteLLM-Konfiguration.

Notiz

Wenn das Gateway bereits eine geeignete API-Anwendung hat, verwenden Sie die bestehende Anwendung wieder, anstatt eine neue zu erstellen. Behalten Sie bestehende Rollen, Zuweisungen, Anmeldeinformationen und nicht zusammenhängende Berechtigungen.

LiteLLM konfigurieren

Nachdem Sie die Microsoft Entra-Konfiguration abgeschlossen haben, verwenden Sie GATEWAY_API_APP_ID, um die entsprechende Gateway-Konfiguration abzuschließen. Für LiteLLM-Konfigurationshinweise siehe LiteLLM-Gateway in der LiteLLM-Dokumentation.

Entdecken und steuern Sie MCP-Server

Nachdem Sie das Azure AI Gateway oder LiteLLM angeschlossen haben, können Sie über die Tools-Oberfläche im Microsoft 365 Admin Center auf MCP-Server zugreifen, die sich mit dem verbundenen Gateway registrieren. Diese Discovery- und Governance-Schritte sind für beide Gateways gemeinsam.

  1. Wechseln Sie im Microsoft 365 Admin Center zu Agents>Tools.
  2. Filtern Sie die Liste nach Quelle, und wählen Sie dann das Gateway aus, dessen MCP-Server Sie anzeigen möchten.
  3. Wählen Sie einen MCP-Server aus, um dessen Details und die bereitgestellten Tools zu überprüfen.

Du kannst die Verwaltung der Verfügbarkeit eines MCP-Servers blockieren oder zulassen. Für das gemeinsame Governance-Verfahren siehe Einen MCP-Server blockieren oder zulassen.

Für unterstützte MCP-Server kann man auch die Verfügbarkeit einzelner Tools verwalten. Weitere Informationen finden Sie unter Verwalten einzelner Tools innerhalb eines MCP-Servers.

  • Zuletzt aktualisiert um