Unity AI Gateway ile yapay zeka idaresi

Unity AI Gateway, kurumsal yapay zeka için Azure Databricks idare çözümüdür. Unity Kataloğu'nda oluşturulan bu katalog, idareyi verilerinizin ve yapay zeka varlıklarınızın ötesinde modeller, aracılar, MCP sunucuları ve araçlar arasındaki çalışma zamanı etkileşimlerine genişletir. Ekiplerin hangi yapay zeka hizmetlerini kullanabileceğini kontrol edin, yapay zeka trafiğini yönlendirin ve yönetin, korumalar belirleyin ve kullanımı tek bir kontrol düzleminden izleyin.

Azure Databricks, büyük dil modellerini (LLM'leri) Foundation Model API'leri aracılığıyla yerel olarak sunar, böylece GPT, Claude ve Gemini gibi modellere gösterge başına ödeme ile erişim sağlar ve altyapınız yoktur. Ayrıca harici model sağlayıcılarını bağlayabilir ve aynı erişim kontrolü ve trafik yönetimi üzerinden API'lerine yönlendirebilirsiniz.

Get started

Yapay zeka varlıklarınız, trafiğiniz ve hizmet davranışınız genelinde yapay zeka idaresi ayarlayın ve uygulayın.

Konu	Description
Eğitim: Bir kodlama ajanının model erişimini Unity AI Gateway ile yönetin	Bir harici kodlama ajanını yönetilen model hizmetleri üzerinden yönlendirin, ardından modellere kimlerin erişebileceğini kontrol edin ve ajanın tüketim ve harcamalarını sınırlayın.
Öğretici: Bir kodlama aracısının GitHub MCP erişimini yönetme	Unity Kataloğu izinlerini ve yerleşik hizmet ilkesini kullanarak bir kodlama aracısının GitHub MCP araçlarına erişimini kısıtlayın.
Öğretici: Hizmet ilkelerini kullanarak bir model hizmetinde koruma önlemleri uygulama	Yerleşik ve özel hizmet ilkelerini kullanarak model hizmeti için koruma önlemleri uygulayın.
Eğitim: Kullanıcı, ekip veya proje bazında temel model harcamalarını takip edin	LLM harcama sürücülerini, hizmet etiketleri ve istek etiketleri olan kullanıcılara, ekiplere veya projelere maliyet atfederek belirleyin.

Yapay zeka hizmetlerine erişimi kontrol

Yapay zeka varlıklarını Unity Kataloğu güvenli kılınabilir nesneler olarak kaydedin, ardından tablolar ve birimler için kullandığınız ayrıcalıklarla erişim verin ve erişimi iptal edin. Aracılar aynı güvenli hale getirilebilir öğeler aracılığıyla yönetilir: Aracı Unity Kataloğu modeli olarak kaydedilir ve çağırdiği araçlar MCP hizmetleri, işlevleri ve bağlantıları olarak yönetilir.

Konu	Description
Model API'leri	system.ai içinde yerel olarak sunulan temel modelleri herhangi bir kurulum yapmadan sorgulayın ve erişimi Unity Catalog izinleri üzerinden yönetin.
Dış model sağlayıcıları	OpenAI ve Anthropic gibi sağlayıcıları kendi anahtarınızı getir (BYOK) ile bağlayın ve onları tek bir kontrol noktası üzerinden yönetin.
Modeller	Unity Catalog ayrıcalıklarıyla, Azure Databricks tarafından sunulan temel modeller dahil olmak üzere kayıtlı modelleri yönetin.
Temel model izinleri	Kuruluşunuzun hangi Azure Databricks tarafından hizmet verilen temel modellerine erişebileceğini, hesap genelinde veya grup başına kısıtlayın.
MCP araçları	Araç filtreleme ve hizmet ilkeleriyle, Unity Catalog’da güvenli nesne olarak kaydedilen MCP sunucularını yönetin.
Özel araçlar	Aracıların araç olarak kullandığı Unity Kataloğu işlevlerini, veriler için kullandığınız ayrıcalıklarla idare edin.
HTTP bağlantıları	Dış API'lere ve MCP sunucularına ulaşmak için kullanılan Unity Kataloğu bağlantılarını idare edin.
Özel model API'leri oluştur	İsteğe bağlı: Kullanıma system.ai hazır varsayılan değerlerin ötesinde modellere ihtiyacınız olduğunda kendi yönetilen uç noktalarınızı ekleyin.

Yapay zeka trafiğini yönlendirme ve yönetme

Unity AI Gateway, kapasiteyi, kullanılabilirliği ve harcamaları sağlayıcılar arasında yönetebilmeniz için istekleri modelinize ve MCP hizmetlerine merkezi bir denetim düzleminden yönlendirir.

Konu	Description
Hız sınırlarını uygulama	Kapasiteyi ve maliyeti yönetmek için model hizmetlerinde ve MCP hizmetlerinde tüketim sınırlarını zorunlu kılma.
Trafik bölmeyi ve geri dönüşleri yapılandırma	İstekleri birden fazla model hedefi arasında dağıtın ve kullanılabilirliği artırmak için failover ekleyin.
Akıllı Yönlendirme ile rota kodlama görevleri	Her kodlama görevi için en iyi modeli ve koseti otomatik olarak seçin; böylece kaliteden ödün vermeden yapay zeka harcamalarını kontrol edin.
Bütçeleri yönetme	Harcamaları izleyin ve kullanıcı başına eşikleri ve sabit üst değerleri ayarlayın.

Korumaları ve erişim ilkelerini ayarlama

Korumalar olarak da adlandırılan hizmet ilkeleri, içeriğine ve çağrıyı kimin yaptığına bağlı olarak her isteğin ve yanıtın nasıl ilerletilir denetler.

Konu	Description
Yapay zeka güvenliği sağlanabilir öğeler için hizmet ilkeleri	Hizmet ilkeleri, yerleşik ve özel ilkeleri kullanarak yapay zeka hizmetlerine yönelik isteklerin ve yanıtların içeriğini nasıl yönetir?
Bir hizmet ilkesi oluşturun ve ekleyin	Bir hizmet politikası fonksiyonu nasıl yazılır ve bunu MCP servisine veya model hizmetine nasıl eklenir.

Kullanımı, maliyeti ve riski izleme

Tüm Unity AI Gateway hizmetlerinde etkinlikleri, harcamaları ve sonuçları izleyin.

Konu	Description
Gözlemlenebilirliğe genel bakış	Hizmetler arasında yapay zeka kullanımı, maliyeti, performansı ve aktiviteyi izlemek için doğru aracı seçin.
Kullanımı izleme	Sistem tabloları kullanarak Unity AI Gateway genelinde istekleri, token kullanımını ve gecikmeyi takip edin.
Maliyeti analiz etme	Azure Databricks maliyetini hizmetlere, hedef modellere, kimliklere ve etiketlere göre ilişkilendirin.
İstekleri ve yanıtları denetleme	İzleme ve hata ayıklama için istekleri ve yanıtları Unity Catalog Delta tablolarına kaydedin.