Unity Gateway kavramları

Unity Gateway, kayıt, keşif ve yapay zeka modelleri ile araçlarına erişimi tek bir yerde topluyor. Kimlerin kullanabileceğini kontrol edin, kullanımı izleyin ve uygulamalar ile ajanlar arasında maliyeti yönetin.

Unity Gateway, bu kavramları hizmet politikalarıyla uygulanan modelleri, model sağlayıcılarını, araçları, becerileri ve koruma korkuluklarını yönetmek için kullanır:

Concept	Ne işe yarıyor?	Example
Model	Bir LLM veya gömme modeli. Kayıtlı bir model, talepleri karşılamak için model hizmetine ihtiyaç duyar.	gpt-astra-6.
Model hizmet	Çıkarım isteklerini bir veya daha fazla modele çeviren ve yönlendiren, trafik bölmesi ve geri dönüş sağlayan bir uç nokta. Gerçek zamanlı istekler ve toplu çıkarım desteği sağlar.	frontier-model: GPT Astra 6 on Azure Databricks, Claude Opus 5 yedek olarak kullanıldı. opus-5: Opus 5 Azure Databricks tarafından sağlanmıştır, AWS Bedrock ise yedek olarak sunulmaktadır.
Model sağlayıcısı	Merkezi yönetilen kimlik bilgilerini kullanarak isteklerin harici model sağlayıcısına yönlendirilmesini sağlayan bir bağlantı.	anthropic-prod: Anthropic ile bir bağlantı.
MCP	Ajanların Model Bağlam Protokolü (MCP) aracılığıyla araçları keşfetmesi ve çağırması için bir arayüz.	support-tools: Slack ve Jira için araçlar.
Yetenek	Bir ajanın çalışmalarını yönlendirmek için yüklediği yeniden kullanılabilir talimatlar ve dosyalar.	customer-support: Bir destek oyun kitabı.
Hizmet politikası	Yapay zeka hizmetlerine yönelik istek ve yanıtları kontrol eden koruma önlemleri uygular.	Yerleşik detect_sensitive_data politika, model taleplerinde ve yanıtlarında kredi kartı numaraları gibi hassas veri türlerini tespit eder. Eşleşmeleri engeller veya sansürler.

Parçalar nasıl bir araya geldi?

Azure Databricks üzerinde gpt-astra-6 öğesine ulaşmak için bir model hizmeti çağırın; yedek olarak aynı model aws-bedrock aracılığıyla da kullanılabilir. Uygulamanızın çağırdığı adı değiştirmeden modelleri veya geri dönüş seçeneklerini değiştirebilirsiniz. Model hizmetine yerleşik Hassas Veri Algılama hizmet politikasını ekleyerek yapılandırılmış hassas veri kategorileri için istek ve yanıtları kontrol edin.

Çağrı modelleri ve araçları

<workspace-url> ve örnek adları kendi adlarınızla değiştirin. DATABRICKS_TOKEN göz atarak ayarlayın.

Model hizmeti

Model servisleri, OpenAI uyumlu Chat Completions gibi birleşik API'leri ve uyumlu modeller için Anthropic Messages gibi sağlayıcı yerel API'leri destekler.

frontier-model öğesini birleşik Chat Completions API’sini kullanarak çağırın. Hizmet şu modeli seçer:

curl "https://<workspace-url>/ai-gateway/mlflow/v1/chat/completions" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "production.ai.frontier-model",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

SDK örnekleri ve diğer API'ler için Sorgu temeli ve göme modelleri bölümine bakınız.

Model sağlayıcısı

Anthropic Messages API'sini kullanarak anthropic-prod aracılığıyla harici bir modeli çağırın. Başlık bağlantıyı seçer ve Unity Gateway kimlik bilgilerini sağlar:

curl "https://<workspace-url>/ai-gateway/anthropic/v1/messages" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Databricks-Model-Provider-Service: production.ai.anthropic-prod" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-opus-5",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Desteklenen sağlayıcı API'leri için Harici model sağlayıcılarını sorgulama (model sağlayıcı hizmetleri) bölümüne bakın.

MCP

Mevcut araçları şu adresle support-toolslisteleyin:

curl "https://<workspace-url>/ai-gateway/mcp-services/production.ai.support-tools" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -H "Accept: application/json, text/event-stream" \
  -d '{
    "jsonrpc": "2.0",
    "id": 1,
    "method": "tools/list",
    "params": {}
  }'

Araç çağrıları ve ajan entegrasyonları için Custom Agent'te MCP sunucularını kullan bölümüne bakınız.

Unity Kataloğu ve erişim kontrolü

Unity Gateway, Unity Catalog ile tümleşerek hizmetleri kimlerin oluşturduğunu, model sağlayıcılarını kimlerin sisteme dahil ettiğini, bunları kimlerin çağırdığını veya erişimi paylaştığını kontrol eder. Unity Kataloğu ayrıca kayıtlı modelleri, becerileri ve kimlerin hizmet politikalarını ekleyebileceğini de belirler.

Unity Catalog korunabilir nesneleri

Modeller, model hizmetleri, model sağlayıcılar, MCP'ler ve beceriler Unity Kataloğu güvenlikleridir: izinler verebileceğiniz nesneler. Adları catalog.schema.name şeklindedir; örneğin production.ai.frontier-model. Azure Databricks tarafından sağlanan model hizmetleri system.ai içine kaydedilir.

Bir model sağlayıcı, Unity Kataloğunda model sağlayıcı hizmeti olarak kayıtlıdır. Hizmet politikaları hizmetlere bağlıdır ve bağımsız güvence değildir.

Unity Catalog'da model, hareketsiz bir varlıktır: sürümler, meta veriler ve artefaktlar. Onu kaydetmek, çağrılabilir olduğu anlamına gelmez. Harici modeller için, model yerine model sağlayıcı bağlantısını kaydet.

Ana izinler

Kullanıcılara, gruplara veya hizmet yöneticilerine izinler verin. Model hizmetleri, model sağlayıcılar ve MCP'ler için ana izinler kullanımı yönetimden ayırır:

Privilege	Ne yapmasına izin veriyor
EXECUTE	Bir model hizmetini, model sağlayıcısını veya MCP'yi arayın.
CREATE SERVICE	Bir şemada hizmet oluşturun ve model sağlayıcıları entegre edin.
READ METADATA	Konfigürasyonu inceleyin.
MANAGE	Konfigürasyonları değiştirin ve başkalarına erişim izni verin.

Çağıranların ayrıca üst katalog ve şema üzerinde USE CATALOG ve USE SCHEMA izinlerine sahip olması gerekir. Hizmet politikaları yetkilendirilen çağrıları sınırlar. Erişim izni vermiyorlar. Her konseptin tam izin gereksinimleri için sayfasına bakabilirsiniz.

Get started

Hazır bir model hizmetiyle başlayın system.aiveya kodlama ajanınızı bağlayın:

Başlık	Description
İlk talebinizi gönderin	Bir modeli sorgulayın ve gateway'de kullanımını görün.
Bir kodlama ajanı bağlayın	Azure Databricks tarafından sağlanan modellerle tercih ettiğiniz kodlama ajanını kullanın.
Kullanımı izleme	Model ve araç aktivitesini, performansını ve maliyetini inceleyin.
İdareyi ayarlama	Kuruluşunuzun yapay zeka kullanımı için erişim ve politikaları yapılandırın.