Základní pojmy Unity Gateway

Unity Gateway přináší registraci, objevování a přístup k AI modelům a nástrojům na jednom místě. Kontrolovat, kdo je může používat, monitorovat využití a řídit náklady napříč aplikacemi a agenty.

Unity Gateway využívá tyto koncepty ke správě modelů, poskytovatelů modelů, nástrojů, dovedností a ochranných opatření implementovaných pomocí politik služeb:

Concept	Jak funguje	Example
Model	LLM nebo model vkládání. Registrovaný model potřebuje modelovou službu pro zpracování požadavků.	gpt-astra-6.
Modelová služba	Koncový bod, který převádí a směruje inferenční požadavky na jeden nebo více modelů, včetně rozdělování provozu a záložních mechanismů. Podporuje požadavky v reálném čase a také dávkovou inferenci.	frontier-model: GPT Astra 6 on Azure Databricks, s Claude Opus 5 jako záložní variantou. opus-5: Opus 5 poskytovaný službou Azure Databricks, s AWS Bedrock jako záložním řešením.
Poskytovatel modelů	Spojení, které směruje požadavky externímu poskytovateli modelů pomocí centrálně spravovaných přihlašovacích údajů.	anthropic-prod: Připojení k Anthropic.
MCP	Rozhraní pro agenty k objevování a volání nástrojů prostřednictvím Model Context Protocol (MCP).	support-tools: Nástroje pro Slacka a Jiru.
Dovednosti	Opakovaně použitelné instrukce a soubory, které agent načítá, aby vedly jeho práci.	customer-support: Příručka podpory.
Politika služby	Zavádí ochranné mechanismy, které kontrolují požadavky a odpovědi na služby AI.	Vestavěná detect_sensitive_data politika detekuje konfigurované typy citlivých dat, jako jsou čísla kreditních karet, v požadavcích a odpovědích modelu. Blokuje nebo cenzuruje shody.

Jak se kusy vejdou dohromady

Volejte službu modelu pro přístup k gpt-astra-6 v Azure Databricks, se stejným modelem dostupným přes aws-bedrock jako záložní variantou. Můžete změnit modely nebo záložní modely, aniž byste měnili název, který vaše aplikace používá. Připojte vestavěnou politiku služby detekce citlivých dat k modelové službě, abyste mohli kontrolovat požadavky a odpovědi pro konfigurované kategorie citlivých dat.

Modely volacích signálů a nástroje

Nahraďte <workspace-url> a ilustrativní jména svými vlastními. Podívejte se na rychlý start pro nastavení DATABRICKS_TOKEN.

Modelová služba

Modelové služby podporují sjednocená API, jako jsou Chat Completions kompatibilní s OpenAI, a nativní API pro poskytovatele, například Anthropic Messages, pro kompatibilní modely.

Volejte frontier-model pomocí sjednoceného rozhraní Chat Completions API. Služba vybírá model:

curl "https://<workspace-url>/ai-gateway/mlflow/v1/chat/completions" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "production.ai.frontier-model",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Viz Query foundation and embedding models pro příklady SDK a další API.

Poskytovatel modelů

Volání externího modelu prostřednictvím anthropic-prod pomocí Anthropic Messages API. Hlavička vybírá spojení a Unity Gateway dodává své přihlašovací údaje:

curl "https://<workspace-url>/ai-gateway/anthropic/v1/messages" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Databricks-Model-Provider-Service: production.ai.anthropic-prod" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-opus-5",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Viz Dotaz na externí poskytovatele modelů (služby modelového poskytovatele) pro podporovaná API poskytovatelů.

MCP

Vypište nástroje dostupné prostřednictvím support-tools:

curl "https://<workspace-url>/ai-gateway/mcp-services/production.ai.support-tools" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -H "Accept: application/json, text/event-stream" \
  -d '{
    "jsonrpc": "2.0",
    "id": 1,
    "method": "tools/list",
    "params": {}
  }'

Viz Použití MCP serverů v Custom Agents pro volání nástrojů a integrace agentů.

Unity Catalog a řízení přístupu

Unity Gateway se integruje s Unity Catalog , aby kontroloval, kdo vytváří služby, přijímá poskytovatele modelů, volá je nebo sdílí přístup. Unity Catalog také spravuje registrované modely, schopnosti a určuje, kdo může připojit zásady služby.

Zabezpečitelné objekty v katalogu Unity

Modely, modelové služby, poskytovatelé modelů, MCP a dovednosti jsou Unity Catalog zabezpečené objekty, na které můžete udělit oprávnění. Jejich názvy následují catalog.schema.name, například production.ai.frontier-model. Služby modelů poskytované službou Azure Databricks jsou registrovány v system.ai.

Poskytovatel modelů je registrován jako služba pro poskytovatele modelů v Unity Catalog. Pravidla služeb se vztahují na služby a nejsou samostatnými zárukami.

V Unity Catalog je model aktivem v klidu: verze, metadata a artefakty. Její zaregistrování neznamená, že ji lze volat. U externích modelů registrujte připojení poskytovatele modelu místo modelu.

Klíčová oprávnění

Udělujte oprávnění uživatelům, skupinám nebo principalům služeb. U modelových služeb, poskytovatelů modelů a MCP hlavní oprávnění oddělují použití od správy:

Privilege	Co to umožňuje
EXECUTE	Zavolejte modelovou službu, poskytovatele modelů nebo MCP.
CREATE SERVICE	Vytvářejte služby a začleňujte poskytovatele modelů ve schématu.
READ METADATA	Zkontrolujte konfiguraci.
MANAGE	Změňte konfiguraci a udělte přístup ostatním.

Volající také potřebují USE CATALOG a USE SCHEMA v rodičovském katalogu a schématu. Servisní politiky omezují oprávněné hovory. Nedávají přístup. Podívejte se na stránku každého konceptu pro plné požadavky na povolení.

Začínáme

Začněte s připravenou modelovou službou z system.ai, nebo připojte svého kódovacího agenta:

Topic	Description
Pošlete svou první žádost	Zadejte dotaz pro model a zobrazte jeho využití v bráně.
Připojte agenta pro kódování	Použijte svého preferovaného agenta kódování s modely poskytovanými Azure Databricks.
Monitorování využití	Zkontrolujte aktivitu modelu a nástroje, výkon a náklady.
Nastavení zásad správného řízení	Nastavte přístup a politiky pro využití AI ve vaší organizaci.