Koncepcje Unity Gateway

Unity Gateway łączy rejestrację, odkrywanie i dostęp do modeli i narzędzi AI w jednym miejscu. Kontrolować, kto może z nich korzystać, monitorować zużycie i zarządzać kosztami w aplikacjach i agentach.

Unity Gateway wykorzystuje te koncepcje do zarządzania modelami, dostawcami modeli, narzędziami, umiejętnościami i barierami wdrożonymi za pomocą polityk usługowych:

Pojęcie	Do czego służy	Example
Model	Model LLM lub model osadzania. Model zarejestrowany potrzebuje usługi modelowej do obsługi żądań.	gpt-astra-6.
Usługa modelowa	Punkt końcowy, który tłumaczy i kieruje żądania wnioskowania do jednego lub więcej modeli, z podziałem ruchu i możliwościami zapasowymi. Obsługuje żądania w czasie rzeczywistym oraz wnioskowanie wsadowe.	frontier-model: GPT Astra 6 on Azure Databricks, z Claude Opus 5 jako zapasowym wariantem. opus-5: Opus 5 udostępniany przez Azure Databricks, z AWS Bedrock jako rozwiązaniem zapasowym.
Dostawca modeli	Połączenie, które kieruje żądania do zewnętrznego dostawcy modeli za pomocą centralnie zarządzanych poświadczeń.	anthropic-prod: Powiązanie z Anthropic.
MCP	Interfejs umożliwiający agentom odkrywanie i wywoływanie narzędzi za pomocą Model Context Protocol (MCP).	support-tools: Narzędzia dla Slacka i Jiry.
Umiejętności	Instrukcje i pliki wielokrotnego użytku, które agent ładuje, by kierować jego pracą.	customer-support: Podręcznik wsparcia.
Polityka obsługi	Wdraża zabezpieczenia sprawdzające żądania i odpowiedzi usług AI, korzystając z wbudowanych, niestandardowych lub zewnętrznych polityk.	Wbudowana detect_sensitive_data polityka wykrywa skonfigurowane typy wrażliwych danych, takie jak numery kart kredytowych, w żądaniach i odpowiedziach modelu. Blokuje lub redaguje dopasowania.

Jak elementy pasują do siebie

Wywołaj usługę modelu, aby uzyskać dostęp do gpt-astra-6 w Azure Databricks, z tym samym modelem dostępnym za pośrednictwem aws-bedrock jako rozwiązanie awaryjne. Możesz zmieniać modele lub opcje awaryjne bez zmiany nazwy, której używa aplikacja. Dołącz wbudowaną politykę usługi wykrywania wrażliwych danych do usługi modelowej, aby sprawdzać żądania i odpowiedzi dla skonfigurowanych kategorii danych wrażliwych.

Modele i narzędzia wywoławcze

Zamień <workspace-url> i ilustracyjne imiona na swoje własne. Zobacz szybki start , aby ustawić DATABRICKS_TOKEN.

Usługa modelu

Usługi modeli obsługują zunifikowane interfejsy API, takie jak Chat Completions zgodne z OpenAI, oraz natywne interfejsy API dostawców, takie jak Anthropic Messages, dla zgodnych modeli.

Wywołaj frontier-model przy użyciu ujednoliconego interfejsu API Chat Completions. Usługa wybiera model:

curl "https://<workspace-url>/ai-gateway/mlflow/v1/chat/completions" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "production.ai.frontier-model",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Zobacz Query foundation and embedding models dla przykładów SDK i innych API.

Dostawca modeli

Wywołaj model zewnętrzny za pośrednictwem anthropic-prod, korzystając z interfejsu Anthropic Messages API. Nagłówek wybiera połączenie, a Unity Gateway dostarcza swoje dane uwierzytelniające:

curl "https://<workspace-url>/ai-gateway/anthropic/v1/messages" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Databricks-Model-Provider-Service: production.ai.anthropic-prod" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-opus-5",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Zobacz Wysyłanie zapytań do zewnętrznych dostawców modeli (usługi dostawców modeli), aby uzyskać informacje o obsługiwanych interfejsach API dostawców.

MCP

Wystaw dostępne narzędzia poprzez support-tools:

curl "https://<workspace-url>/ai-gateway/mcp-services/production.ai.support-tools" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -H "Accept: application/json, text/event-stream" \
  -d '{
    "jsonrpc": "2.0",
    "id": 1,
    "method": "tools/list",
    "params": {}
  }'

Zobacz Korzystanie z narzędzi MCP w agencie Python, aby uzyskać wywołania narzędzi i integracje z agentami.

Katalog Unity i kontrola dostępu

Unity Gateway integruje się z Unity Catalog , aby kontrolować, kto tworzy usługi, wdraża dostawców modeli, dzwoni do nich lub udostępnia dostęp. Unity Catalog reguluje również zarejestrowane modele, umiejętności oraz to, kto może dołączyć polityki usług.

Katalog Unity securables

Modele, usługi modelowe, dostawcy modeli, mechanizmy MCP i umiejętności to obiekty zabezpieczane w Unity Catalog: obiekty, dla których można nadawać uprawnienia. Ich nazwy następują po catalog.schema.name, na przykład .production.ai.frontier-model Usługi modelowe dostarczane przez Azure Databricks są zarejestrowane w system.ai.

Dostawca modeli jest zarejestrowany w Unity Catalog jako usługa dostawcy modeli. Polityki usług są powiązane z usługami i nie są samodzielnymi zabezpieczeniami.

W Unity Catalog model jest aktywem w spoczynku: wersje, metadane i artefakty. Rejestracja nie czyni jej podatną na wywołanie. W przypadku modeli zewnętrznych rejestruj połączenie dostawcy modelu zamiast modelu.

Uprawnienia klucza

Przyznaj uprawnienia użytkownikom, grupom lub podmiotom usługowym. Dla usług modelowych, dostawców modeli i MCP główne uprawnienia oddzielają użycie od administracji:

Privilege	Co to umożliwia
EXECUTE	Zadzwoń do usługi modelowej, dostawcy modelu lub MCP.
CREATE SERVICE	Twórz usługi i wdrażaj dostawców modeli w ramach schematu.
READ METADATA	Sprawdź konfigurację.
MANAGE	Zmień konfigurację i przyznaj dostęp innym.

Dzwoniący również potrzebują USE CATALOG i USE SCHEMA w katalogu nadrzędnym oraz w schemacie. Polityki serwisowe ograniczają autoryzowane połączenia. Nie dają dostępu. Zobacz stronę każdego konceptu, aby poznać pełne wymagania dotyczące uprawnień.

Wprowadzenie

Zacznij od gotowej do użycia usługi modelowej z system.ai, lub połącz swojego agenta kodowego:

Temat	Description
Wyślij swoje pierwsze zamówienie	Wykonaj zapytanie do modelu i zobacz jego użycie w bramie.
Podłącz agenta kodującego	Użyj preferowanego agenta kodowania z modelami dostarczonymi przez Azure Databricks.
Monitorowanie użycia	Sprawdź aktywność modelu i narzędzi, wydajność oraz koszty.
Konfigurowanie zarządzania	Konfiguruj dostęp i polityki dotyczące korzystania z AI w swojej organizacji.