KI-Governance mit Unity AI Gateway

Von Bedeutung

Diese Seite behandelt das neue Unity AI-Gateway (sichtbar in der Randleiste der Benutzeroberfläche), das sich derzeit in der Betaversion befindet. Kontoadministratoren können den Zugriff auf dieses Feature auf der Seite " Vorschauen " der Kontokonsole aktivieren. Siehe Manage Azure Databricks Previews.

Ausführliche Informationen zur vorherigen Version des AI-Gateways (nicht Unity AI Gateway) finden Sie unter AI-Gateway für die Bereitstellung von Endpunkten.

Unity AI Gateway ist die Azure Databricks Governance-Lösung für Unternehmens-KI. Basierend auf Unity Catalog erweitert es die Governance über Ihre Daten- und KI-Ressourcen hinaus auf die Laufzeitinteraktionen zwischen Modellen, Agents, MCP-Servern und Tools. Steuern Sie, welche KI-Dienste Teams nutzen dürfen, leiten und verwalten Sie KI-Datenverkehr, legen Sie Leitplanken fest und überwachen Sie die Nutzung über eine zentrale Steuerungsebene.

Get started

Richten Sie KI-Governance für Ihre KI-Ressourcen, Ihren Datenverkehr und das Verhalten Ihrer Dienste ein und wenden Sie sie an.

Thema	Description
Leitfaden zur KI-Governance	Ein End-to-End-Pfad für Administratoren, um den Zugriff auf KI-Ressourcen, Datenverkehr und Kosten sowie den Inhalt von Anforderungen und Antworten zu steuern.
Lernprogramm: Steuern des GitHub MCP-Zugriffs eines Codierungs-Agents	Beschränken Sie den Zugriff eines Codierungs-Agents auf GitHub MCP-Tools mithilfe von Unity-Katalogberechtigungen und einer integrierten Dienstrichtlinie.
Tutorial: Implementierung von Leitplanken für einen Modelldienst mit Servicerichtlinien	Implementieren Von Schutzschienen auf einem Modelldienst mithilfe integrierter und benutzerdefinierter Dienstrichtlinien.

Steuern, welche KI-Dienste-Teams verwenden können

Registrieren Sie KI-Objekte als sicherungsfähige Objekte im Unity-Katalog, gewähren und widerrufen Sie dann den Zugriff mit denselben Berechtigungen, die Sie für Tabellen und Volumes verwenden. Agenten werden über dieselben Sicherheitsmechanismen gesteuert: Ein Agent wird als Unity Catalog-Modell registriert, und die von ihm aufgerufenen Tools werden als MCP-Dienste, -Funktionen und -Verbindungen gesteuert.

Thema	Description
Modelle	Steuern Sie registrierte ML-Modelle, einschließlich Azure Databricks gehosteten Foundation-Modellen, mit Unity-Katalogrechten.
Basismodellberechtigungen	Beschränken Sie die Azure Databricks gehosteten Foundation-Modelle, auf die Ihre Organisation zugreifen kann, kontoweit oder pro Gruppe.
MCP-Tools	Steuern Sie MCP-Server, die als geschützte Objekte im Unity Catalog registriert sind, mit Toolfilterung und Service-Richtlinien.
Benutzerdefinierte Tools	Steuern Sie die Unity-Katalogfunktionen, die Agents als Tools verwenden, mit denselben Berechtigungen, die Sie für Daten verwenden.
HTTP-Verbindungen	Steuern Sie die Unity-Katalogverbindungen, die verwendet werden, um externe APIs und MCP-Server zu erreichen.
Erstellen von Modelldiensten	Modelldienste als absicherbare Objekte in Unity Catalog über Arbeitsbereiche hinweg definieren und teilen.

KI-Datenverkehr steuern und verwalten

Unity AI Gateway leitet Anforderungen an Ihr Modell und MCP-Dienste von einer zentralen Kontrollebene aus weiter, sodass Sie Kapazität, Verfügbarkeit und Ausgaben für alle Anbieter verwalten können.

Thema	Description
Anwenden von Ratenlimits	Erzwingen Sie Verbrauchsbeschränkungen für Modelldienste und MCP-Dienste, um Kapazität und Kosten zu verwalten.
Konfigurieren von Datenverkehrsteilungen und Fallbacks	Verteilen Sie Anforderungen über mehrere Modell-Back-Ends, und fügen Sie Failover hinzu, um die Verfügbarkeit zu erhöhen.
Verwalten von Budgets	Überwachen Sie ausgaben und legen Sie Schwellenwerte pro Benutzer und feste Obergrenzen für Azure Databricks gehostete und externe Anbieter fest.

Hinweis

Unity AI Gateway-Features verursachen keine Gebühren während der Betaversion.

Leitplanken und Zugriffsrichtlinien festlegen

Dienstrichtlinien, auch als Schutzschienen bezeichnet, steuern, wie jede Anforderung und Antwort fortgesetzt wird, basierend auf ihrem Inhalt und auf der Person, die den Anruf durchführt.

Thema	Description
Dienstrichtlinien für KI-Sicherungseinrichtungen	Wie Dienstrichtlinien den Inhalt von Anforderungen und Antworten auf KI-Dienste mithilfe integrierter und benutzerdefinierter Richtlinien steuern.
Erstellen und Anfügen einer Dienstrichtlinie	So schreiben Sie eine Dienstrichtlinienfunktion, und fügen Sie sie an einen MCP-Dienst oder Modelldienst an.

Überwachen von Nutzung, Kosten und Risiken

Verfolgen Sie Aktivitäten, Ausgaben und Ergebnisse in allen Unity AI Gateway-Diensten.

Thema	Description
Verwendung überwachen	Nachverfolgen von Anforderungen, Tokenverwendung und Latenz für Modelldienste mithilfe von Systemtabellen.
Kosten analysieren	Ordnen Sie Azure-Databricks-Kosten Diensten, Zielmodellen, Prinzipalen und Tags zu.
Überprüfung von Anfragen und Antworten	Protokollieren von Anfragen und den Antworten in Unity Catalog-Delta-Tabellen zur Überwachung und Fehlerbehebung.

Modell, das Endpunkte bedient (vorheriger)

Die vorherige Version von AI Gateway verfügt über Governance-Funktionen für Endpunkte zur Modellbereitstellung auf der Ebene des Arbeitsbereichs, einschließlich externer Modellendpunkte, Foundation Model-API-Endpunkte und benutzerdefinierter Modellendpunkte.

Thema	Description
AI-Gateway für die Bereitstellung von Endpunkten	Erfahren Sie mehr über KI-Gateway-Features für die Bereitstellung von Endpunkten, einschließlich der unterstützten Features und Einschränkungen.
AI Gateway an Modellbereitstellungsendpunkten konfigurieren.	Konfigurieren Sie KI-Gateway-Features wie Nutzungsnachverfolgung, Payload-Protokollierung, Ratenbegrenzungen und Schutzmaßnahmen für Modellbereitstellungsendpunkte.
Überwachen von bereitgestellten Modellen mithilfe von KI-Gateway-aktivierten Rückschlusstabellen	Überwachen Sie bereitgestellte Modelle mithilfe von durch das AI Gateway aktivierten Inferenztabellen.