Unity AI-Gateway

Von Bedeutung

Diese Seite befasst sich mit dem neuen AI-Gateway (sichtbar im linken Navigationselement der Benutzeroberfläche), das sich derzeit in der Betaversion befindet. Kontoadministratoren können den Zugriff auf dieses Feature auf der Seite " Vorschauen " der Kontokonsole aktivieren. Siehe Manage Azure Databricks Previews.

Ausführliche Informationen zur vorherigen Version von Unity AI Gateway finden Sie unter Unity AI Gateway für die Bereitstellung von Endpunkten.

Unity AI Gateway ist die zentrale AI-Governance-Ebene von Databricks für Agents, LLM-Endpunkte, MCP-Server und Codierungs-Agents. Verwenden Sie Unity AI Gateway, um die Nutzung zu analysieren, Berechtigungen zu konfigurieren, Schutzläufe zu erzwingen und Kapazität über Anbieter hinweg zu verwalten.

LLMs

Unity AI Gateway bietet Unternehmensgovernance für die LLM-Endpunkte, Agents und Codierungstools, die Ihre Organisation verwendet, einschließlich einer einheitlichen Benutzeroberfläche, verbesserter Observability und erweiterter API-Abdeckung.

Thema	Description
Unity AI Gateway für Agents und LLMs	Erfahren Sie mehr über Unity AI Gateway für Agents und LLM-Endpunkte sowie über die ersten Schritte.
Konfigurieren von Unity AI Gateway-Endpunkten	Erstellen und konfigurieren Sie Unity AI Gateway-Endpunkte für Ihre LLMs und Codierungs-Agents.
Unity AI Gateway-Endpunkte abfragen	Abfragen von Unity AI Gateway-Endpunkten mithilfe des OpenAI-Clients und anderer unterstützter APIs.
Nutzung der Unity AI Gateway-Endpunkte überwachen	Überwachen Sie die Verwendung für Unity AI-Gateway-Endpunkte mithilfe von Systemtabellen.
Überwachen der Kosten des Unity AI-Gateways	Analysieren Sie Azure Databricks Kosten für Unity AI-Gateway-Endpunkte, Zielmodelle, Prinzipale und Tags mithilfe der Tabelle des abrechnungsfähigen Nutzungssystems und des Verwendungsdashboards.
Überwachen von Modellen mithilfe von Rückschlusstabellen	Überwachen und Prüfen von Anforderungen und Antworten in Unity Catalog Delta-Tabellen.
Konfigurieren von Ratelimits für Unity AI Gateway-Endpunkte	Erzwingen Sie Verbrauchsbeschränkungen für Unity AI-Gateway-Endpunkte, um Kapazität und Kosten zu verwalten.
Konfigurieren der Datenverkehrsteilung für Unity AI-Gateway-Endpunkte	Konfigurieren Sie die Datenverkehrsteilung für Unity AI Gateway-Endpunkte, um Anforderungen über mehrere Modell-Back-Ends zu verteilen.
Integration mit Programmieragenten	Integrieren Sie Codierungs-Agents wie Cursor, Gemini CLI, Codex CLI und Claude Code in Unity AI Gateway.
Steuern Sie die LLM-Nutzung von Ihrem Agenten	Leiten Sie LLM-Anrufe von Agents weiter, die für Databricks-Apps erstellt und bereitgestellt wurden, über Unity AI Gateway.

Hinweis

Unity AI Gateway-Features verursachen keine Gebühren während der Betaversion.

MCPs

Unity AI Gateway bietet Governance für MCP-Server und bietet Ihnen Transparenz, Zugriffssteuerung und Überwachungsprotokollierung für alle MCP-Interaktionen.

Thema	Description
Model Context Protocol (MCP) auf Databricks	Erfahren Sie mehr über MCP-Servertypen auf Databricks und die ersten Schritte.
Installieren eines externen MCP-Servers	Stellen Sie sicher eine Verbindung mit MCP-Servern her, die außerhalb von Databricks gehostet werden, indem Sie verwaltete Verbindungen verwenden.
Hosten eines benutzerdefinierten MCP-Servers	Hosten Sie einen benutzerdefinierten MCP-Server als Databricks-App.
Verbinden von Clients mit Databricks MCPs	Verbinden Sie MCP-Clients mit Ihren Databricks MCPs.

Modell, das Endpunkte bedient (vorheriger)

Die vorherige Version von Unity AI Gateway bietet Governance-Funktionen für die Bereitstellung von Modellendpunkten, einschließlich externer Modellendpunkte, Foundation Model-API-Endpunkte und benutzerdefinierter Modellendpunkte.

Thema	Description
Unity AI Gateway für die Bereitstellung von Endpunkten	Erfahren Sie mehr über unity AI Gateway-Features für die Bereitstellung von Endpunkten, einschließlich der unterstützten Features und Einschränkungen.
Konfigurieren des Unity AI-Gateways auf Modellbereitstellungsendpunkten	Konfigurieren Sie Unity AI-Gateway-Features wie Nutzungsnachverfolgung, Nutzlastprotokollierung, Geschwindigkeitsbeschränkungen und Schutzläufe für ein Modell, das den Endpunkt bedient.
Überwachen von bereitgestellten Modellen mithilfe von Unity AI Gateway-fähigen Ableitungstabellen	Überwachen Sie bereitgestellte Modelle mithilfe von Unity AI Gateway-fähigen Inferenztabellen.