Unity AI-Gateway

Von Bedeutung

Diese Seite befasst sich mit dem neuen AI-Gateway (sichtbar im linken Navigationselement der Benutzeroberfläche), das sich derzeit in der Betaversion befindet. Kontoadministratoren können den Zugriff auf dieses Feature auf der Seite " Vorschauen " der Kontokonsole aktivieren. Siehe Manage Azure Databricks Previews.

Ausführliche Informationen zur vorherigen Version von Unity AI Gateway finden Sie unter Unity AI Gateway für die Bereitstellung von Endpunkten.

Unity AI Gateway ist die zentrale AI-Governance-Ebene von Databricks für LLM-Endpunkte, MCP-Server und Codierungs-Agents. Verwenden Sie Unity AI Gateway, um die Nutzung zu analysieren, Berechtigungen zu konfigurieren, Schutzläufe zu erzwingen und Kapazität über Anbieter hinweg zu verwalten.

LLMs

Unity AI Gateway bietet Unternehmens-Governance für LLM-Endpunkte und Codierungsagenten, einschließlich einer einheitlichen Benutzeroberfläche, verbesserter Beobachtbarkeit und erweiterter API-Abdeckung.

Thema	Description
Unity AI-Gateway für LLM-Endpunkte	Erfahren Sie mehr über unity AI Gateway für LLM-Endpunkte und wie Sie beginnen können.
Konfigurieren von Unity AI Gateway-Endpunkten	Erstellen und konfigurieren Sie Unity AI Gateway-Endpunkte für Ihre LLMs und Codierungs-Agents.
Unity AI Gateway-Endpunkte abfragen	Abfragen von Unity AI Gateway-Endpunkten mithilfe des OpenAI-Clients und anderer unterstützter APIs.
Nutzung der Unity AI Gateway-Endpunkte überwachen	Überwachen Sie die Nutzung und Kosten für Unity AI Gateway-Endpunkte mithilfe von Systemtabellen.
Überwachen von Modellen mithilfe von Rückschlusstabellen	Überwachen und Prüfen von Anforderungen und Antworten in Unity Catalog Delta-Tabellen.
Konfigurieren von Ratelimits für Unity AI Gateway-Endpunkte	Erzwingen Sie Verbrauchsbeschränkungen für Unity AI-Gateway-Endpunkte, um Kapazität und Kosten zu verwalten.
Integration mit Programmieragenten	Integrieren Sie Codierungs-Agents wie Cursor, Gemini CLI, Codex CLI und Claude Code in Unity AI Gateway.

Hinweis

Unity AI Gateway-Features verursachen keine Gebühren während der Betaversion.

MCPs

Unity AI Gateway bietet Governance für MCP-Server und bietet Ihnen Transparenz, Zugriffssteuerung und Überwachungsprotokollierung für alle MCP-Interaktionen.

Thema	Description
Model Context Protocol (MCP) auf Databricks	Erfahren Sie mehr über MCP-Servertypen auf Databricks und die ersten Schritte.
Verwenden von von Databricks verwalteten MCP-Servern	Greifen Sie sofort auf Databricks-Features mit vorinstallierten MCP-Servern zu.
Verwenden externer MCP-Server	Stellen Sie sicher eine Verbindung mit MCP-Servern her, die außerhalb von Databricks gehostet werden, indem Sie verwaltete Verbindungen verwenden.
Hosten von benutzerdefinierten MCP-Servern mit Databricks-Apps	Hosten Sie einen benutzerdefinierten MCP-Server als Databricks-App.
Verbinden von Nicht-Databricks-Clients mit Databricks MCP-Servern	Verbinden Sie MCP-Clients mit Ihren Databricks MCP-Servern.

Modell, das Endpunkte bedient (vorheriger)

Die vorherige Version von Unity AI Gateway bietet Governance-Funktionen für die Bereitstellung von Modellendpunkten, einschließlich externer Modellendpunkte, Foundation Model-API-Endpunkte und benutzerdefinierter Modellendpunkte.

Thema	Description
Unity AI Gateway für die Bereitstellung von Endpunkten	Erfahren Sie mehr über unity AI Gateway-Features für die Bereitstellung von Endpunkten, einschließlich der unterstützten Features und Einschränkungen.
Konfigurieren des Unity AI-Gateways auf Modellbereitstellungsendpunkten	Konfigurieren Sie Unity AI-Gateway-Features wie Nutzungsnachverfolgung, Nutzlastprotokollierung, Geschwindigkeitsbeschränkungen und Schutzläufe für ein Modell, das den Endpunkt bedient.
Überwachen von bereitgestellten Modellen mithilfe von Unity AI Gateway-fähigen Ableitungstabellen	Überwachen Sie bereitgestellte Modelle mithilfe von Unity AI Gateway-fähigen Inferenztabellen.