Not
Bu sayfaya erişim yetkilendirme gerektiriyor. Oturum açmayı veya dizinleri değiştirmeyi deneyebilirsiniz.
Bu sayfaya erişim yetkilendirme gerektiriyor. Dizinleri değiştirmeyi deneyebilirsiniz.
UYGULANIR: AI Gateway seviyesi (önizleme)
Important
AI Gateway seviyesi şu anda halka açık önizleme aşamasında. Kamu önizleme sırasında, AI Gateway seviyesi aşağıdaki bölgelerde mevcuttur:
- Birleşik Devletler - Doğu ABD 2
- Avrupa - İsveç Orta
Azure API Management'tan AI Gateway tier (önizleme), AI iş yükleri için tam olarak yönetilen bir gateway'dir. Ekiplere yapay zeka modellerine ve Model Bağlam Protokolü (MCP) araçlarına erişimi yayınlamak, güvencelendirmek, yönetmek ve gözlemlemek için tek bir yer sunar.
AI Gateway katmanı genel önizlemede. Önizleme özellikleri, bölgeler, hizmet sınırları ve API'ler genel erişilebilirlikten önce değişebilir. Fiyatlandırma ve iş modeli ön gösterimin ilerleyen bölümlerinde açıklanacak.
AI Gateway seviyesi nedir?
AI Gateway katmanı, modelleri ve araçları çağıran uygulamalar için yönetilen bir gateway'dir. Uygulamalar, her sağlayıcı veya araç arka uçunu doğrudan aramak yerine bir gateway uç noktası çağırır. Her bir istek için, ağ geçidi:
-
api-keyüst bilgisindeki çalışma zamanı erişim anahtarı doğrulanır. - Hedef model veya araç için uygulanan politikaları değerlendirir.
- İsteği, yapılandırdığınız arka uç kimlik bilgilerini kullanarak, modeller için
modelalanına veya araçlar için araç adına göre seçilen arka uca yönlendirir. - Yanıtı döndürür ve telemetri yayımlar — belirteç sayıları ve gecikme gibi OpenTelemetry günlükleri ve metrikleri.
Neden kullanmalı
AI Gateway katmanı, platform ekiplerine uygulamalar, modeller ve araçlar için yönetilen bir çalışma zamanı sınırı sağlar. Bunu şunlar için kullanın:
- Desteklenen yapay zeka sağlayıcılarının önüne bir ağ geçidi uç noktası yerleştirin.
- Sağlayıcı kimlik bilgilerini başvurulardan gizli tutun.
- Modelleri, MCP sunucularını, çalışma zamanı erişim anahtarlarını, politikaları ve izlemeyi yönetin.
- Token oran sınırları, talep oranı sınırları, içerik güvenliği ve IP filtreleri gibi yönetişim kontrollerini uygulayın.
- Yapay zeka ajanları için onaylanmış MCP araçlarını yayımlayın.
- Kendi kendine hizmet kataloğu aracılığıyla mevcut modelleri ve araçları keşfedin ve kullanın.
- Gateway'i yönetmek için Microsoft Entra ID ile giriş yapın.
Yolunuzu seçin
AI Gateway katmanına yeni misiniz? Bir geçit oluşturun, bir model ekleyin ve ilk aramanızı yaklaşık 20–30 dakika içinde yapın.
Foundry ve özel modeller ekleyin ve MCP araç sunucularını tek bir yönetilen uç nokta arkasında yayınlayın.
Yönet, güvence altına al ve işlet
Üretim ortamında çalıştırmak için politikaları, kimliği, ağ yapılandırmasını ve izlemeyi uygulayın.
Temel kavramlar
Gateway
Gateway, yapay zeka trafiği için çalışma zamanı ve yönetim sınırıdır. Yaklaşık bir dakika içinde oluşturabileceğiniz ve planlamanız gereken hiçbir ölçek birimi olmayan özel bir Azure kaynağıdır. Uygulamalar, her sağlayıcının veya aracın arka ucunu doğrudan çağırmak yerine, tek bir ağ geçidi uç noktasını çalışma zamanı erişim anahtarı kullanarak çağırır. Modelleri, araçları, politikaları, anahtarları ve kimliğini tek bir yerde yönetiyorsunuz.
Modeller
Model, gateway üzerinden yayımladığınız bir sağlayıcının modelidir. Uygulamalar, isteğin model alanında onu adıyla seçer. Tüm OpenAI uyumlu sağlayıcılar (Microsoft Foundry, Azure OpenAI, AWS Bedrock, Google Vertex ve OpenAI) tek bir uç noktayı paylaşır, .../models/openai/v1. Ağ geçidi, model üzerinde tam eşleşmeye göre yönlendirme yapar, bu nedenle her modele benzersiz bir ad verin. Anthropic, .../models/anthropic/v1/messages adresinde Messages API doğrudan geçişi olan özel bir sağlayıcı kullanır. Gateway arka uç kimlik bilgilerini saklar, bu yüzden uygulamalar sağlayıcı anahtarlarını asla işlemez.
MCP sunucuları ve araçları
MCP sunucusu, ajanların araçlara ulaşmak için aradığı yönetilen uç noktalardan biridir (.../toolservers/<server-name>/mcp). Üç kaynaktan bir veya daha fazla arka uçu fedeleştirir: uzak MCP sunucusu (URL üzerine), OpenAPI spesifikasyonu veya yerleşik bir bağlayıcı (barındıracak sunucu olmayan 1.000'den fazla SaaS uygulaması). Her arka ucun işlemleri araç hâline gelir. Gateway'in her arka uça nasıl kimlik doğrulama yapacağını seçersiniz: Hiç, API Anahtarı, OAuth 2.0 veya Yönetilen kimlik.
İlkeler
Politika, portalda kart olarak yapılandırdığınız bir çalışma zamanı koruma mekanizmasıdır - XML gerekmez.
| Policy | Neleri denetler? |
|---|---|
| İçerik güvenliği | İstemler ve yanıtlar için güvenlik kontrolleri. |
| IP filtresi | Onaylanmış istemci ağ aralıklarından gelen çalışma zamanı çağrıları. |
| Belirteç hızı sınırı | Kayan bir dakikalık süre içindeki token işleme hacmi. |
| İstek hızı sınırı | Sürekli bir dakika boyunca ses talebi yapın. |
Kimlik ve erişim anahtarları
Yöneticiler, geçidi yönetmek için Microsoft Entra ID kullanarak giriş yapar. Uygulamalar çalışma zamanı erişim anahtarlarıyla kimlik doğrulama yapar - bu anahtarları portalın Anahtarlar sayfasında (API anahtarı oluştur) oluşturun ve başlıkta gönderin api-key . Bir anahtar, ağ geçidi kapsamındadır: her modele ve araca erişebilir. Arka uçlar için ağ geçidi, varsa yönetilen kimlik kullanır (böylece hiçbir gizli bilgi saklanmaz) veya sizin sağladığınız bir sağlayıcı anahtarını kullanır. Her uygulama ve ortam için bir anahtar verin ve her kimliğe en az ayrıcalık verin.
Self servis kataloğu
Geliştiriciler, bağlantı detayları ve örneklerle birlikte kendi kendine hizmet kataloğunda modeller ve araçlar keşfeder - favorileri sabitler ve Ctrl+K (macOS'ta ⌘K) komut paletiyle istediği yere atlayabilirler.
Bölgesel erişilebilirlik
Açık önizleme sırasında, AI Gateway seviyesi aşağıdaki Azure bölgelerinde mevcuttur.
| Coğrafya | Bölge |
|---|---|
| Birleşik Devletler | Doğu ABD 2 |
| Europe | Sweden Central |
Bölge erişilebilirliği abonelik, bulut, kapasite, özellik bayrağı ve önizleme kaydına göre değişebilir. Hedef bölgeniz portalda veya dağıtım araçlarında mevcut değilse, başka bir desteklenen önizleme bölgesini seçin veya Microsoft temsilcinizle iletişime geçin.
Kullanıcılarınıza, uygulamalarınıza, yapay zeka arka uçlarınıza ve ağ bağımlılıklarınıza en iyi uyan bölgeyi seçin. Ağ geçidi Azure OpenAI, Microsoft Foundry, model uç noktaları, API'ler veya MCP sunucularına yönlendiriyorsa, bu konumları da göz önünde bulundurun. Veri yerleşimi sadece gateway bölgesine değil, tam istek yoluna bağlıdır. Ağ geçidi, yapay zeka arka uçları, araçlar, günlükleme hedefleri, yönetilen kimlikler ve istemci uygulamaları dahil olmak üzere her bileşenin nerede konuşlandırıldığını gözden geçirin.
Sık sorulan sorular
Sağlayıcıları doğrudan aramak yerine AI Gateway katmanını ne zaman kullanmalıyım?
Birçok model ve aracın önünde tek bir yönetilen uç nokta istiyorsanız AI Gateway katmanını kullanın: her uygulamada sağlayıcı kimlik bilgileri yerine merkezi çalışma zamanı anahtarları, paylaşılan politikalar (token ve istek sınırları, içerik güvenliği, IP filtreleri), birleşik telemetri ve kendi kendine hizmet katalog. Tek bir uygulamadan tek bir modeli çağırıyorsanız ve yönetişim veya merkezi kimlik bilgilerine ihtiyacınız yoksa, doğrudan sağlayıcıyı aramak daha kolay olabilir.
Foundry'den içe aktarmalı mıyım yoksa özel bir model mi eklemeliyim?
Modeliniz Microsoft Foundry veya Azure OpenAI (Azure AI Services) kaynağında çalıştığında Foundry'den aktarın; sihirbaz, kaynağın dağıtımlarını sizin için keşfeder. AWS Bedrock, Google Vertex, OpenAI, Anthropic veya diğer herhangi bir OpenAI uyumlu uç nokta için özel bir model ekleyin; burada uç noktayı ve model adlarını kendiniz giriyorsunuz. Modelleri ve araçları yönet bölümünü bkz.
AI Gateway seviyesi üretime hazır mı?
AI Gateway seviyesi kamuya açık önizlemede: hizmet seviyesi anlaşması (SLA) olmadan erişilebilirlik en iyi çabadır ve API'ler, portal iş akışları, telemetri, limitler, bölgeler ve fiyatlandırmalar değişebilir. Önizleme kotaları modeller, araçlar ve çalışma zamanı erişim anahtarlarının sayısını, istek ve token verimliliğinizi sınırlayabilir; Belirli sınırlar genel erişimden önce yayımlanacaktır. Kritik olmayan iş yükleriyle, kontrollü pilotlarla ve net geri dönüş planlarıyla başlayın.
Önizleme sırasında fiyatlandırma nasıl yönetiliyor?
AI Gateway seviyesi için fiyatlandırma ve iş modeli ön izlemede daha sonra açıklanacak. Ayrıca geçit ile birlikte kullandığınız model sağlayıcılar, Application Insights, ağ ve gözlemlenebilirlik platformları gibi ilgili kaynaklar için de ödeme yapabilirsiniz.
Hangi bölgeler mevcut?
AI Gateway seviyesi East US 2 ve Sweden Central'da mevcuttur. Bkz . Bölgesel kullanılabilirlik.
Verilerim nasıl işlenir?
Telemetrinin nereye gideceğini siz seçersiniz. Application Insights ile, Azure aboneliğinizde kalır. Diğer OpenTelemetry (OTLP) hedefleri yapılandırmanıza ve sağlayıcının şartlarına uyar. Telemetri, OpenTelemetry GenAI anlamsal kurallarını (gen_ai.* öneki) kullanır. Veri yerleşimi tam istek yoluna bağlıdır, bu yüzden geçitleri, arka uçları ve telemetri hedeflerini onaylı bölgelere yerleştirin ve güvenlik ile gizlilik ekiplerinizi dahil edin.
AI Gateway seviyesi özel ağ bağlantısını destekliyor mu?
Yes. Gelen Özel Bağlantı ve giden sanal ağ entegrasyonu halka açık önizlemenin bir parçasıdır. Kurulum, DNS ve sınırlamalar için Özel ağı yapılandırma bölümüne bakınız.
Otomasyon için hangi API sürümünü kullanmalıyım?
Önizleme yönetim API sürümünü 2026-05-01-previewkullanın. API önizleme aşamasında olduğu için otomasyonu geniş bir dağıtımdan önce doğrulayın.