Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
GILT FÜR: KI-Gateway (Vorschau)
Important
AI Gateway befindet sich derzeit in der öffentlichen Vorschau. Während der öffentlichen Vorschau ist AI Gateway in den folgenden Regionen verfügbar:
- USA - Osten der US-Region 2
- Europa – Schweden Zentral
AI Gateway ist ein verwaltetes Gateway für KI-Verkehr, einschließlich Anfragen an KI-Modelle und Model Context Protocol (MCP)-Server. Es bietet Organisationen einen gemeinsamen Kontrollpunkt dafür, wie Anwendungen und Agenten sich mit KI-Diensten verbinden, Ressourcen verbrauchen und auf Werkzeuge zugreifen.
Mit der wachsenden Nutzung von KI verbinden sich Teams mit Modellen und Werkzeugen, die von verschiedenen Anbietern betrieben werden. Die unabhängige Verwaltung einzelner Verbindungen kann die Verarbeitung von Anmeldeinformationen und die Verbrauchssteuerung duplizieren, gleichzeitig jedoch die Nutzung schwerer verständlich machen. AI Gateway bringt diese Verbindungen zusammen, sodass Plattformteams sie zentral verwalten können, während Entwickler sich auf den Aufbau von Anwendungen konzentrieren.
Wichtige Funktionen
Verbinde Anwendungen mit Modellen. Integrieren Sie bestehende Microsoft Foundry-Deployments und kompatible Custom-Modell-Anbieter hinter Gateway-Endpunkten. Modellaliase geben Anwendungen stabile Namen, während Plattformteams die Backend-Verbindungen verwalten.
Veröffentlichen Sie Tools für Agents. Kombinieren Sie Werkzeuge von entfernten MCP-Servern, von OpenAPI beschriebenen APIs und integrierten Connectors hinter Gateway-MCP-Endpunkten. Zum Beispiel kann ein Assistent genehmigte Werkzeuge mehrerer Dienste über eine gemeinsame Verbindung nutzen.
Verwaltung von Zugang und Governance. Trennen Sie Anwendungszugangsdaten von Backend-Zugangsdaten. Wende gemeinsame Kontrollen für Zugriff, Nutzung und geschätzte Modellausgaben an, anstatt jede Kontrolle in jeder Anwendung zu implementieren.
Fördern Sie Konnektivität und Transparenz im Unternehmen. Verbinden Sie sich mit Backends über kontrollierte Netzwerkpfade, einschließlich virtueller Netzwerkverbindung für private Backends. Nutze Telemetrie, um die Nutzung von Modellen und Werkzeugen zu verstehen und Anfragen zu untersuchen.
Helfen Sie Entwicklern, genehmigte Fähigkeiten wiederzuverwenden. Stellen Sie einen Katalog bereit, in dem Entwickler Modelle und Tools entdecken und testen können, bevor sie Anwendungen und Agenten verbinden.
Für die Beziehungen zwischen diesen Elementen siehe AI Gateway Konzepte.
Beziehung zu Azure API Management
AI Gateway ist ein dediziertes Produkt für KI-Datenverkehr. Der Azure API Management-Dienst bietet ein umfassendes API-Lebenszyklusmanagement und unterstützt zudem KI-Gateway-Funktionen. Die Produkte teilen sich den Microsoft.ApiManagement Resource Provider, verwenden aber unterschiedliche Azure-Ressourcentypen.
Sie können beide Produkte nutzen: Geschäfts-APIs im API-Management-Service belassen und AI Gateway für Modell- und Werkzeugverkehr nutzen. Bestehende KI-Workloads in anderen API-Management-SKUs werden weiterhin unterstützt. Für Überlegungen zur Einführung siehe AI Gateway und Azure API Management Service.