KI-Governance mit Unity AI Gateway

Unity AI Gateway ist die Azure Databricks Governance-Lösung für Unternehmens-KI. Basierend auf Unity Catalog erweitert es die Governance über Ihre Daten- und KI-Ressourcen hinaus auf die Laufzeitinteraktionen zwischen Modellen, Agents, MCP-Servern und Tools. Steuern Sie, welche KI-Dienste Teams nutzen dürfen, leiten und verwalten Sie KI-Datenverkehr, legen Sie Leitplanken fest und überwachen Sie die Nutzung über eine zentrale Steuerungsebene.

Azure Databricks bedient große Sprachmodelle (LLMs) nativ über Foundation Model APIs, sodass Sie Pay-per-Token-Zugriff auf Modelle wie GPT, Claude und Gemini erhalten, ohne Infrastruktur zu betreiben. Sie können auch externe Modellanbieter anbinden und ihre APIs über dieselbe Zugriffssteuerung und dasselbe Traffic-Management weiterleiten.

Get started

Richten Sie KI-Governance für Ihre KI-Ressourcen, Ihren Datenverkehr und das Verhalten Ihrer Dienste ein und wenden Sie sie an.

Thema	Description
Tutorial: Steuern Sie den Modellzugriff eines Coding-Agenten mit Unity AI Gateway	Leiten Sie einen externen Programmier-Agenten über verwaltete Modelldienste, steuern Sie anschließend, wer auf Modelle zugreifen kann, und begrenzen Sie die Nutzung und die Ausgaben des Agenten.
Lernprogramm: Steuern des GitHub MCP-Zugriffs eines Codierungs-Agents	Beschränken Sie den Zugriff eines Codierungs-Agents auf GitHub MCP-Tools mithilfe von Unity-Katalogberechtigungen und einer integrierten Dienstrichtlinie.
Tutorial: Implementierung von Leitplanken für einen Modelldienst mit Servicerichtlinien	Implementieren Von Schutzschienen auf einem Modelldienst mithilfe integrierter und benutzerdefinierter Dienstrichtlinien.
Tutorial: Verfolgen Sie die Ausgaben des Foundation-Modells nach Nutzer, Team oder Projekt	Identifizieren Sie LLM-Ausgabetreiber, indem Sie Kosten Nutzern, Teams oder Projekten mit Service-Tags und Anfrage-Tags zuweisen.

Kontrolliere den Zugang zu KI-Diensten

Registrieren Sie KI-Objekte als sicherungsfähige Objekte im Unity-Katalog, gewähren und widerrufen Sie dann den Zugriff mit denselben Berechtigungen, die Sie für Tabellen und Volumes verwenden. Agenten werden über dieselben Sicherheitsmechanismen gesteuert: Ein Agent wird als Unity Catalog-Modell registriert, und die von ihm aufgerufenen Tools werden als MCP-Dienste, -Funktionen und -Verbindungen gesteuert.

Thema	Description
Modell-APIs	Fragen Sie in system.ai nativ bereitgestellte Foundation-Modelle ohne Einrichtung ab und verwalten Sie den Zugriff über Unity Catalog-Berechtigungen.
Externe Modellanbieter	Verbinde Anbieter wie OpenAI und Anthropic mit bring your own key (BYOK) und steuere sie über einen Kontrollpunkt.
Modelle	Verwalten Sie registrierte Modelle, einschließlich von Azure Databricks bereitgestellter Foundation-Modelle, mit Unity Catalog-Berechtigungen.
Basismodellberechtigungen	Beschränken Sie den Zugriff Ihrer Organisation auf die von Azure Databricks bereitgestellten Foundation-Modelle – kontenweit oder pro Gruppe.
MCP-Tools	Steuern Sie MCP-Server, die als geschützte Objekte im Unity Catalog registriert sind, mit Toolfilterung und Service-Richtlinien.
Benutzerdefinierte Tools	Steuern Sie die Unity-Katalogfunktionen, die Agents als Tools verwenden, mit denselben Berechtigungen, die Sie für Daten verwenden.
HTTP-Verbindungen	Steuern Sie die Unity-Katalogverbindungen, die verwendet werden, um externe APIs und MCP-Server zu erreichen.
Erstellen Sie benutzerdefinierte Modell-APIs	Optional: Füge eigene verwaltete Endpunkte hinzu, wenn du Modelle über die einsatzbereiten system.ai Standardwerte hinaus brauchst.

KI-Datenverkehr steuern und verwalten

Unity AI Gateway leitet Anforderungen an Ihr Modell und MCP-Dienste von einer zentralen Kontrollebene aus weiter, sodass Sie Kapazität, Verfügbarkeit und Ausgaben für alle Anbieter verwalten können.

Thema	Description
Anwenden von Ratenlimits	Erzwingen Sie Verbrauchsbeschränkungen für Modelldienste und MCP-Dienste, um Kapazität und Kosten zu verwalten.
Konfigurieren von Datenverkehrsteilungen und Fallbacks	Verteilt Anfragen auf mehrere Modellziele und fügt Failover hinzu, um die Verfügbarkeit zu erhöhen.
Routencodierungsaufgaben mit Smart Routing	Wählen Sie automatisch das beste Modell und die beste Nutzung für jede Coding-Aufgabe aus, um die KI-Ausgaben zu kontrollieren, ohne die Qualität zu beeinträchtigen.
Verwalten von Budgets	Überwachen Sie ausgaben und legen Sie Schwellenwerte pro Benutzer und feste Obergrenzen fest.

Leitplanken und Zugriffsrichtlinien festlegen

Dienstrichtlinien, auch als Schutzschienen bezeichnet, steuern, wie jede Anforderung und Antwort fortgesetzt wird, basierend auf ihrem Inhalt und auf der Person, die den Anruf durchführt.

Thema	Description
Dienstrichtlinien für KI-Sicherungseinrichtungen	Wie Dienstrichtlinien den Inhalt von Anforderungen und Antworten auf KI-Dienste mithilfe integrierter und benutzerdefinierter Richtlinien steuern.
Erstellen und Anfügen einer Dienstrichtlinie	Wie man eine Service-Policy-Funktion schreibt und sie an einen MCP-Service oder Modellservice anhängt.

Überwachen von Nutzung, Kosten und Risiken

Verfolgen Sie Aktivitäten, Ausgaben und Ergebnisse in allen Unity AI Gateway-Diensten.

Thema	Description
Observability-Übersicht	Wählen Sie das richtige Werkzeug, um KI-Nutzung, Kosten, Leistung und Aktivitäten über Dienste hinweg zu überwachen.
Verwendung überwachen	Verfolgen Sie Anfragen, Tokennutzung und Latenz über das Unity AI Gateway anhand von Systemtabellen.
Kosten analysieren	Ordnen Sie Azure-Databricks-Kosten Diensten, Zielmodellen, Prinzipalen und Tags zu.
Überprüfung von Anfragen und Antworten	Protokollieren von Anfragen und den Antworten in Unity Catalog-Delta-Tabellen zur Überwachung und Fehlerbehebung.