Notitie
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen u aan te melden of de directory te wijzigen.
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen de mappen te wijzigen.
Unity Gateway brengt registratie, ontdekking en toegang tot AI-modellen en -tools op één plek. Controleer wie ze kan gebruiken, monitor het gebruik en beheer kosten tussen applicaties en agenten.
Unity Gateway gebruikt deze concepten om modellen, modelaanbieders, tools, vaardigheden en beveiligingsmechanismen te beheren die met servicebeleidsregels zijn geïmplementeerd:
| Concept | Wat het doet | Voorbeeld |
|---|---|---|
| Model | Een LLM of embeddingmodel. Een geregistreerd model heeft een modeldienst nodig om verzoeken te verwerken. |
gpt-astra-6. |
| Modeldienst | Een eindpunt dat inferentieverzoeken vertaalt en doorstuurt naar een of meer modellen, met verkeerssplitsing en fallbacks. Ondersteunt real-timeverzoeken en batchinferentie. |
frontier-model: GPT Astra 6 op Azure Databricks, met Claude Opus 5 als fallback.opus-5: Opus 5 geleverd door Azure Databricks, met AWS Bedrock als fallback. |
| Aanbieder van modellen | Een verbinding die verzoeken doorstuurt naar een externe modelprovider met centraal beheerde inloggegevens. |
anthropic-prod: Een connectie met Anthropic. |
| MCP | Een interface voor agenten om tools te ontdekken en aan te roepen via het Model Context Protocol (MCP). |
support-tools: Gereedschap voor Slack en Jira. |
| Vaardigheid | Herbruikbare instructies en bestanden die een agent laadt om zijn werk te begeleiden. |
customer-support: Een draaiboek voor ondersteuning. |
| Dienstbeleid | Implementeert guardrails die verzoeken en antwoorden op AI-diensten controleren, met behulp van ingebouwde, aangepaste of externe beleidslijnen. | Het ingebouwde detect_sensitive_data beleid detecteert geconfigureerde soorten gevoelige gegevens, zoals creditcardnummers, in modelverzoeken en -antwoorden. Het blokkeert of maskeert overeenkomsten. |
Hoe de onderdelen bij elkaar passen
Roep een modelservice aan om toegang te krijgen tot gpt-astra-6 op Azure Databricks, met hetzelfde model dat via aws-bedrock beschikbaar is als fallback. Je kunt modellen of fallbacks veranderen zonder de naam die je applicatie aanroept te veranderen. Voeg het ingebouwde beleid voor de Sensitive Data Detection-service toe aan de modelservice om verzoeken en antwoorden voor geconfigureerde categorieën van gevoelige gegevens te controleren.
Oproepmodellen en tools
Vervang <workspace-url> en vervang de illustratieve namen door je eigen naam. Zie de snelstartgids om DATABRICKS_TOKEN in te stellen.
Modelservice
Modelservices ondersteunen geïntegreerde API's zoals OpenAI-compatibele Chat Completions en provider-native API's zoals Anthropic Messages voor compatibele modellen.
Bel frontier-model met de geïntegreerde Chat Completions API. De dienst kiest het volgende model:
curl "https://<workspace-url>/ai-gateway/mlflow/v1/chat/completions" \
-H "Authorization: Bearer $DATABRICKS_TOKEN" \
-H "Content-Type: application/json" \
-d '{
"model": "production.ai.frontier-model",
"max_tokens": 256,
"messages": [{"role": "user", "content": "Hello!"}]
}'
Zie Query foundation en embeddingmodellen voor SDK-voorbeelden en andere API's.
Modelaanbieder
Roep een extern model aan via anthropic-prod de Anthropic Messages API. De header selecteert de verbinding en Unity Gateway levert zijn inloggegevens:
curl "https://<workspace-url>/ai-gateway/anthropic/v1/messages" \
-H "Authorization: Bearer $DATABRICKS_TOKEN" \
-H "Databricks-Model-Provider-Service: production.ai.anthropic-prod" \
-H "Content-Type: application/json" \
-d '{
"model": "claude-opus-5",
"max_tokens": 256,
"messages": [{"role": "user", "content": "Hello!"}]
}'
Zie Externe modelproviders (model provider services) opvragen voor ondersteunde provider API's.
MCP
Vermeld de beschikbare hulpmiddelen via support-tools:
curl "https://<workspace-url>/ai-gateway/mcp-services/production.ai.support-tools" \
-H "Authorization: Bearer $DATABRICKS_TOKEN" \
-H "Content-Type: application/json" \
-H "Accept: application/json, text/event-stream" \
-d '{
"jsonrpc": "2.0",
"id": 1,
"method": "tools/list",
"params": {}
}'
Zie Gebruik MCP-tools in een Python-agent voor toolcalls en agentintegraties.
Unity-catalogus en toegangscontrole
Unity Gateway integreert met Unity Catalog om te bepalen wie services aanmaakt, modelproviders onboardt, ze oproept of toegang deelt. Unity Catalog regelt ook geregistreerde modellen, vaardigheden en wie servicebeleid kan koppelen.
Unity Catalog-beveiligbare objecten
Modellen, modelservices, modelproviders, MCP's en vaardigheden zijn Unity Catalog securables: objecten waarop je rechten kunt geven. Hun namen volgen catalog.schema.name, zoals production.ai.frontier-model. Azure Databricks-geleverde modelservices zijn geregistreerd in system.ai.
Een modelprovider is geregistreerd als modelproviderdienst in de Unity Catalog. Servicebeleidsregels zijn gekoppeld aan services en zijn geen zelfstandige beveiligbare objecten.
In Unity Catalog is een model een opgeslagen asset: versies, metadata en artefacten. Het registreren maakt het niet belbaar. Voor externe modellen registreer je de modelproviderverbinding in plaats van het model.
Belangrijkste machtigingen
Verleen rechten aan gebruikers, groepen of diensthoofden. Voor modelservices, modelproviders en MCP's scheiden de belangrijkste rechten het gebruik van de administratie:
| Privilege | Wat het toestaat |
|---|---|
EXECUTE |
Bel een modelservice, een modelprovider of een MCP. |
CREATE SERVICE |
Maak services en neem modelaanbieders op in een schema. |
READ METADATA |
Controleer de configuratie. |
MANAGE |
Verander de configuratie en verleen toegang aan anderen. |
Aanroepers hebben ook USE SCHEMA en USE CATALOG nodig voor de bovenliggende catalogus en het schema. Servicebeleid beperkt geautoriseerde oproepen. Ze verlenen geen toegang. Zie de pagina van elk concept voor de volledige toestemmingsvereisten.
Get started
Begin met een kant-en-klare modelservice van system.ai, of verbind je codeeragent:
| Onderwerp | Beschrijving |
|---|---|
| Stuur je eerste verzoek | Vraag een model en bekijk het gebruik ervan in de gateway. |
| Verbind een coderingsagent | Gebruik je voorkeurscodeeragent met modellen geleverd door Azure Databricks. |
| Gebruik bewaken | Inspecteer de activiteit van modellen en gereedschappen, prestaties en kosten. |
| Governance instellen | Configureer toegang en beleid voor het AI-gebruik van je organisatie. |