Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
AI Gateway hilft Plattformteams, Anwendungen und Agenten gemeinsamen, geregelten Zugriff auf KI-Modelle und -Tools zu gewähren. Sie können bestehenden KI-Verkehr über das AI Gateway bringen, um Verbindungen zu zentralisieren, KI-orientierte Steuerungen anzuwenden und Einblick in die Nutzung zu gewinnen. Dein Ausgangspunkt könnte Anwendungen sein, die Anbieter direkt aufrufen, ein bestehendes Gateway oder KI-Gateway-Funktionen im Azure API Management.
Das Verschieben eines Workloads bedeutet, die Art und Weise zu ändern, wie das Modell und die Tool-Aufrufe verwaltet und weitergeleitet werden. Sie können die zugrundeliegenden Modellbereitstellungen, Tool-Services und die Plattformen, die Ihre anderen Workloads verwalten, behalten. Zum Beispiel kann ein Assistent AI Gateway für Modellzugriff und föderierte MCP-Tools nutzen, während Geschäfts-APIs weiterhin API-Management nutzen.
Wählen Sie die Funktionen, die Ihre Workloads benötigen
Beginnen Sie mit der Verbesserung, die Sie für Anwendungen, Agenten oder den Plattformbetrieb wünschen. AI Gateway kann Ihnen helfen:
- Teile genehmigte Modellverbindungen. Registrieren Sie bestehende Modellbereitstellungen und machen Sie Modellaliase verfügbar, damit Anwendungen stabile Namen verwenden, während Plattformteams Backend-Verbindungen verwalten.
- Zusammenführen von Tools für Agents. Veröffentlichen Sie Werkzeuge von mehreren MCP-Backends über einen gemeinsamen Gateway-MCP-Endpunkt.
- Steuere die KI-Nutzung. Verwenden Sie Token-Allowances und geschätzte Modellausgabebudgets mit Kontrollen, die der Arbeitslast und ihren Aufrufern entsprechen.
- Nutzung nachvollziehen. Konfigurieren Sie Telemetrie, um Modell- und Werkzeugaktivitäten zu beobachten und Anfragen zu untersuchen.
Wählen Sie Workloads aus, die von diesen Funktionen profitieren, und prüfen Sie dann deren erforderliche Modellvorgänge, MCP-Transporte, Authentifizierung, Richtlinien, Netzwerke und Telemetrie im Hinblick auf die Unterstützung durch AI Gateway. Die Unterstützung eines Anbieters bedeutet nicht, dass alle von ihm angebotenen Operationen unterstützt werden.
Wenn deine Workloads Azure API Management verwenden
Das Verschieben ausgewählter KI-Workloads ist optional. KI-Gateway und API-Management ergänzen sich: Nutzen Sie AI Gateway für modell- und toolzentrierte Governance und behalten API-Lebenszyklusmanagement, Entwicklerportal-Erfahrungen und Geschäfts-APIs im API-Management bei.
KI-Gateway-Funktionen im API-Management werden weiterhin unterstützt. Eine vollständige KI-Funktionsparität zwischen den Produkten ist nicht geplant, daher sollten Sie jede Arbeitslast mit dem AI Gateway und dem Azure API Management-Service bewerten. Zum Beispiel können Abhängigkeiten von Backend-Pool-Lastverteilung, Failover, semantischem Caching oder A2A-Agenten-APIs Gründe sein, eine Arbeitslast im API-Management zu behalten oder eine Alternative zu entwerfen, bevor sie verlegt wird.
Andere API-Management-Stufen sind durch die Einstellung der früheren AIGateway-SKU nicht betroffen. Wenn Ihre Ressource diese obsolete SKU verwendet, folgen Sie stattdessen Migrieren von der AIGateway-SKU in Azure API Management.
Zuordnen der Workload zu AI Gateway
Inventarisieren Sie die Modellverbindungen und Tools, die Sie über AI Gateway bereitstellen möchten, sowie deren Aufrufer, Back-End-Dienste, Anmeldeinformationen, Kontrollen, Netzwerke und betriebliche Abhängigkeiten. Nutze dieses Inventar, um die Zielkonfiguration zu entwerfen.
| Vorhandene Konfiguration | Zieldesign zur Bewertung |
|---|---|
| Direkte Modellaufrufe oder Modell-APIs hinter einem Gateway | Modellanbieter und registrierte Modelle mit dem erforderlichen Protokoll, Endpunkt und der Back-End-Authentifizierung |
| Clientseitige Modellnamen | Modellalias, die die Namen, die Anwendungen verwenden, wo immer möglich erhalten |
| MCP-Server oder HTTP-API-Operationen, die als Werkzeuge bereitgestellt werden | MCP-Backends und ausgewählte Werkzeuge, die über Gateway-MCP-Endpunkte veröffentlicht wurden |
| Anwendungszugangsdaten und Anruferautorisierung, einschließlich API-Management-Abonnements | Gateway-Laufzeitzugangsdaten oder Microsoft Entra-Zugriffsberechtigungen für die erforderlichen Aufrufer |
| Kontrollen in Anwendungen oder einem vorhandenen Gateway | Unterstützte KI-Gateway-Steuerungen, konfiguriert für die passenden Modelle, Werkzeuge und Anrufer |
| Verbrauchsgrenzen und Anrufergruppierung | Richtlinien für Token- und Kostenlimits, die den Anforderungen der Workload an Freibeträge und geschätzte Ausgaben entsprechen |
| Diagnose, Protokolle und Dashboards | Gateway-Telemetrie, Warnungen und Dashboards, die entsprechende Betriebskontrollen unterstützen |
| Bereitstellungsautomatisierung | Ressourcendefinitionen und Managementoperationen für Microsoft.ApiManagement/aigateways |
Behandle dieses Mapping als Designbewertung, nicht als direkte Konfigurationsumwandlung. Für Workloads im API-Management müssen APIs, Produkte, Abonnements und Richtlinien auf die modell- und toolzentrierte Konfiguration von AI Gateway abgebildet werden. Ein Token-Kontingent und ein geschätztes Geldbudget erfüllen unterschiedliche Zwecke; keines ersetzt die Abrechnung der Anbieter.