AI-governance met Unity AI Gateway

Belangrijk

Op deze pagina wordt de nieuwe Unity AI Gateway beschreven (zichtbaar in de zijbalk van de gebruikersinterface), die zich momenteel in bèta bevindt. Accountbeheerders kunnen toegang tot deze functie inschakelen op de pagina Previews van de accountconsole. Zie Azure Databricks previews beheren.

Zie AI Gateway voor eindpuntserving voor meer informatie over de vorige versie van AI Gateway (niet Unity AI Gateway).

Unity AI Gateway is de Azure Databricks governance-oplossing voor zakelijke AI. Het is gebouwd op Unity Catalog en breidt governance uit buiten uw gegevens en AI-assets naar de runtime-interacties tussen modellen, agents, MCP-servers en hulpprogramma's. Bepaal welke AI-services teams kunnen gebruiken, routeer en beheer AI-verkeer, stel randvoorwaarden in en bewaak het gebruik vanuit één beheerlaag.

Get started

AI-governance instellen en toepassen op uw AI-assets, verkeer en servicegedrag.

Onderwerp Description
Handleiding voor AI-governance Een volledig traject waarmee beheerders de toegang tot AI-middelen, verkeer en kosten, en de inhoud van verzoeken en antwoorden kunnen beheren.
Zelfstudie: De GitHub MCP-toegang van een coderingsagent beheren Beperk de toegang van een coderingsagent tot GitHub MCP-hulpprogramma's met behulp van Unity Catalog-machtigingen en een ingebouwd servicebeleid.
Zelfstudie: Beveiligingsmaatregelen implementeren op een modelservice met servicebeleidsregels Stel beveiligingsmaatregelen in voor een modelservice met ingebouwde en aangepaste servicebeleidsregels.

Bepaal van welke AI-services teams gebruik kunnen maken

Registreer AI-assets als beveiligbare objecten in Unity Catalog en verleen en trek vervolgens toegang in met dezelfde machtigingen die u voor tabellen en volumes gebruikt. Agents worden beheerd via dezelfde beveiligbare apparaten: een agent wordt geregistreerd als een Unity Catalog-model en de hulpprogramma's die worden aanroepen, worden beheerd als MCP-services, -functies en -verbindingen.

Onderwerp Description
Modellen Beheer geregistreerde ML-modellen, waaronder Azure Databricks-gehoste basismodellen, met Unity Catalog-bevoegdheden.
Machtigingen voor foundationmodels Beperk tot welke door Azure Databricks gehoste foundation-modellen uw organisatie toegang heeft, voor het hele account of per groep.
MCP-tools Beheer MCP-servers die zijn geregistreerd als beveiligde objecten in Unity Catalog, met filtering van tools en servicebeleidsregels.
Aangepaste hulpprogramma's Beheer de Unity Catalog-functies die agents als hulpprogramma's gebruiken, met dezelfde bevoegdheden die u voor gegevens gebruikt.
HTTP-verbindingen De Unity Catalog-verbindingen beheren die worden gebruikt om externe API's en MCP-servers te bereiken.
Modelservices maken Modelservices definiëren en delen als beveiligbare objecten van Unity Catalog in werkruimten.

AI-verkeer routeren en beheren

Unity AI Gateway routeert aanvragen naar uw model en MCP-services vanuit een centraal besturingsvlak, zodat u capaciteit, beschikbaarheid en uitgaven kunt beheren tussen providers.

Onderwerp Description
Frequentielimieten toepassen Dwing verbruikslimieten af voor modelservices en MCP-services om capaciteit en kosten te beheren.
Verkeerssplitsing en fallbackopties configureren Distribueer aanvragen over meerdere modelback-ends en voeg failover toe om de beschikbaarheid te vergroten.
Budgetten beheren Bewaak uitgaven en stel drempelwaarden per gebruiker en vaste limieten in.

Opmerking

Voor Unity AI Gateway-functies worden geen kosten in rekening gebracht tijdens de bètaversie.

Randvoorwaarden en toegangsbeleid instellen

Servicebeleid, ook wel kaders genoemd, bepaalt hoe elke aanvraag en reactie verloopt, op basis van de inhoud en op wie de oproep doet.

Onderwerp Description
Servicebeleid voor AI-beveiligbare apparaten Hoe servicebeleid de inhoud van aanvragen en antwoorden op AI-services regelt met behulp van ingebouwd en aangepast beleid.
Een servicebeleid maken en koppelen Een servicebeleidsfunctie schrijven en deze koppelen aan een MCP-service of modelservice.

Gebruik, kosten en risico bewaken

Activiteiten, uitgaven en resultaten bijhouden voor alle Unity AI Gateway-services.

Onderwerp Description
Gebruik bewaken Traceer aanvragen, tokengebruik en latentie voor modelservices met behulp van systeemtabellen.
Kosten analyseren Wijs Azure Databricks-kosten toe aan services, doelmodellen, principals en tags.
Aanvragen en antwoorden controleren Logboekaanvragen en antwoorden op Unity Catalog Delta-tabellen voor bewaking en foutopsporing.

Model voor eindpunten (vorige)

De vorige versie van AI Gateway beschikt over governancefuncties voor modeleindpunten op workspaceniveau, waaronder eindpunten voor externe modellen, Foundation Model API-eindpunten en aangepaste modeleindpunten.

Onderwerp Description
AI Gateway voor het serveren van endpoints Meer informatie over AI Gateway-functies voor het leveren van eindpunten, waaronder ondersteunde functies en beperkingen.
AI Gateway configureren voor eindpunten voor modelservice Configureer AI Gateway-functies zoals het bijhouden van gebruik, logboekregistratie van nettoladingen, frequentielimieten en kaders voor een model dat het eindpunt bedient.
Bewaken van geserveerde modellen via inferentietabellen met AI Gateway Bewaak gediende modellen met behulp van inferentietabellen met AI Gateway.