Azure AI kapsayıcıları nedir?

Azure AI hizmetleri, şirket içi Azure'da kullanılabilen API'lerin aynısını kullanmanıza olanak sağlayan çeşitli Docker kapsayıcıları sağlar. Bu kapsayıcıları kullanmak, uyumluluk, güvenlik veya diğer operasyonel nedenlerle Azure yapay zeka hizmetlerini verilerinize yaklaştırma esnekliği sağlar. Kapsayıcı desteği şu anda Azure AI hizmetlerinin bir alt kümesi için kullanılabilir.

Kapsayıcıya alma, bağımlılıkları ve yapılandırması dahil olmak üzere bir uygulamanın veya hizmetin kapsayıcı görüntüsü olarak birlikte paketlendiği yazılım dağıtımına yönelik bir yaklaşımdır. Çok az değişiklikle veya hiç değişiklik yapmadan, kapsayıcı görüntüsü bir kapsayıcı konağına dağıtılabilir. Kapsayıcılar birbirlerinden ve temel alınan işletim sisteminden yalıtılır ve bir sanal makineden daha küçük bir ayak iziyle kullanılır. Kapsayıcılar, kısa vadeli görevler için kapsayıcı görüntülerinden örneklenebilir ve artık gerekli olmadığında kaldırılabilir.

Özellikler ve avantajlar

  • Sabit altyapı: DevOps ekiplerinin tutarlı ve güvenilir bir dizi bilinen sistem parametresinden yararlanmasını sağlarken, değişikliğe uyum sağlayabilir. Kapsayıcılar, öngörülebilir bir ekosistem içinde özet oluşturma ve yapılandırma kaymasını önleme esnekliği sağlar.
  • Veriler üzerinde denetim: Verilerinizin Azure AI hizmetleri tarafından nerede işleneceğini seçin. Buluta veri gönderemiyorsanız ancak Azure AI hizmetleri API'lerine erişmeniz gerekiyorsa bu önemli olabilir. Veri, yönetim, kimlik ve güvenlik genelinde karma ortamlarda tutarlılığı destekler.
  • Model güncelleştirmeleri üzerinde denetim: Çözümlerinde dağıtılan modellerin sürüm oluşturma ve güncelleştirme esnekliği.
  • Taşınabilir mimari: Azure'da, şirket içinde ve uçta dağıtılabilir taşınabilir bir uygulama mimarisi oluşturulmasını sağlar. Kapsayıcılar doğrudan Azure Kubernetes Service'e, Azure Container Instances'a veya Azure Stack'e dağıtılan bir Kubernetes kümesine dağıtılabilir. Daha fazla bilgi için bkz . Kubernetes'i Azure Stack'e dağıtma.
  • Yüksek aktarım hızı/düşük gecikme süresi: Azure yapay zeka hizmetlerinin uygulama mantığına ve verilerine fiziksel olarak yakın bir şekilde çalışmasını sağlayarak müşterilere yüksek aktarım hızı ve düşük gecikme süresi gereksinimleri için ölçeklendirme olanağı sağlar. Kapsayıcılar saniye başına işlemleri (TPS) doldurmaz ve gerekli donanım kaynaklarını sağlarsanız talebi işlemek için ölçeği artırmak ve genişletmek için yapılabilir.
  • Ölçeklenebilirlik: Kubernetes gibi kapsayıcılılaştırma ve kapsayıcı düzenleme yazılımının giderek artan popülerliği ile ölçeklenebilirlik, teknolojik gelişmelerde ön plandadır. Ölçeklenebilir bir küme temelini temel alan uygulama geliştirme, yüksek kullanılabilirliğe uygundur.

Azure yapay zeka hizmetlerindeki kapsayıcılar

Azure AI kapsayıcıları, her biri Azure AI hizmetlerindeki hizmetlerden bir işlev alt kümesi içeren aşağıdaki Docker kapsayıcıları kümesini sağlar. Yönergeleri ve görüntü konumlarını aşağıdaki tablolarda bulabilirsiniz.

Dekont

Bkz . Azure AI Document Intelligence kapsayıcı yönergeleri ve görüntü konumları için Belge Yönetim Bilgileri kapsayıcılarını yükleme ve çalıştırma.

Karar kapsayıcıları

Service Kapsayıcı Açıklama Kullanılabilirlik
Anomali Algılayıcısı Anomali Algılayıcısı (resim) Anomali Algılayıcısı API'si, makine öğrenmesi ile zaman serisi verilerinizdeki anormallikleri izlemenize ve algılamanıza olanak tanır. Genel kullanılabilir

Dil kapsayıcıları

Service Kapsayıcı Açıklama Kullanılabilirlik
LUIS LUIS (resim) LUIS uygulaması olarak da bilinen eğitilmiş veya yayımlanmış bir Language Understanding modelini docker kapsayıcısına yükler ve kapsayıcının API uç noktalarındaki sorgu tahminlerine erişim sağlar. Uygulamanın tahmin doğruluğunu geliştirmek için kapsayıcıdan sorgu günlüklerini toplayabilir ve bunları LUIS portalına geri yükleyebilirsiniz. Genel kullanıma sunuldu.
Bu kapsayıcı bağlantısız ortamlarda da çalıştırılabilir.
Dil hizmeti Anahtar İfade Ayıklama (görüntü) Ana noktaları tanımlamak için anahtar ifadeleri ayıklar. Örneğin, "The food was delicious and there were wonderful staff" (Yemekler lezzetliydi ve personel harikaydı) giriş metni olduğunda API, "food" (yemek) ve "wonderful staff" (personel harikaydı) ana konuşma noktalarını döndürür. Genel kullanıma sunuldu.
Bu kapsayıcı bağlantısız ortamlarda da çalıştırılabilir.
Dil hizmeti Metin Dili Algılama (görüntü) En fazla 120 dil için, giriş metninin hangi dilde yazıldığı algılanır ve istek üzerine gönderilen her belge için tek bir dil kodu raporlanır. Dil kodu, puanın ağırlığını belirten bir puanla eşleştirilir. Genel kullanıma sunuldu.
Bu kapsayıcı bağlantısız ortamlarda da çalıştırılabilir.
Dil hizmeti Yaklaşım Analizi (görüntü) Pozitif veya negatif yaklaşımla ilgili ipuçları için ham metni analiz eder. Yaklaşım analizinin bu sürümü, içindeki her belge ve tümce için yaklaşım etiketlerini (örneğin pozitif veya negatif) döndürür. Genel kullanıma sunuldu.
Bu kapsayıcı bağlantısız ortamlarda da çalıştırılabilir.
Dil hizmeti Sistem durumu için Metin Analizi (görüntü) Yapılandırılmamış klinik metinlerden tıbbi bilgileri ayıklama ve etiketleme. Genel kullanılabilir
Dil hizmeti Adlandırılmış Varlık Tanıma (görüntü) Metinden adlandırılmış varlıkları ayıklayın. Genel kullanıma sunuldu.
Bu kapsayıcı bağlantısız ortamlarda da çalıştırılabilir.
Dil hizmeti Özel Adlandırılmış Varlık Tanıma (görüntü) Verilerinizi kullanarak oluşturduğunuz özel modeli kullanarak adlandırılmış varlıkları metinden ayıklayın. Genel kullanılabilir
Dil hizmeti Özetleme (görüntü) Çeşitli kaynaklardan gelen metinleri özetleyin. Genel önizleme.
Bu kapsayıcı bağlantısız ortamlarda da çalıştırılabilir.
Çeviri Çeviri (resim) Metni çeşitli dillerde ve diyalektlerde çevirin. Genel kullanıma sunuldu. Geçitli - erişim iste.
Bu kapsayıcı bağlantısız ortamlarda da çalıştırılabilir.

Konuşma kapsayıcıları

Service Kapsayıcı Açıklama Kullanılabilirlik
Konuşma Hizmeti API’si Konuşmayı metne dönüştürme (resim) Sürekli, gerçek zamanlı konuşmaları metne dönüştürür. Genel kullanıma sunuldu.
Bu kapsayıcı bağlantısız ortamlarda da çalıştırılabilir.
Konuşma Hizmeti API’si Özel Konuşmayı metne dönüştürme (resim) Özel bir model kullanarak sürekli gerçek zamanlı konuşmanın dökümünü metne ayırır. Genel kullanıma sunuldu
Bu kapsayıcı bağlantısız ortamlarda da çalıştırılabilir.
Konuşma Hizmeti API’si Nöral Metin okuma (resim) Derin sinir ağı teknolojisini kullanarak metni doğal ses veren konuşmaya dönüştürerek daha doğal sentezlenmiş konuşmalar sağlar. Genel kullanıma sunuldu.
Bu kapsayıcı bağlantısız ortamlarda da çalıştırılabilir.
Konuşma Hizmeti API’si Konuşma dili tanımlama (resim) Konuşulan sesin dilini belirler. Önizle

Görüntü kapsayıcıları

Service Kapsayıcı Açıklama Kullanılabilirlik
Azure AI Vision OCR okuma (resim) Read OCR kapsayıcısı JPEG, PNG, BMP, PDF ve TIFF dosya biçimlerini destekleyen resim ve belgelerden yazdırılan ve el yazısı metinleri ayıklamanıza olanak tanır. Daha fazla bilgi için Bkz. Okuma API'leri belgeleri. Genel Kullanıma Sunuldu.
Bu kapsayıcı bağlantısız ortamlarda da çalıştırılabilir.
Uzamsal Analiz Uzamsal analiz (görüntü) Gerçek zamanlı akış videosunu analiz ederek insanlar arasındaki uzamsal ilişkileri, hareketlerini ve fiziksel ortamlardaki nesnelerle etkileşimlerini anlar. Önizle

Ayrıca, bazı kapsayıcılar Azure AI hizmetleri çok hizmetli kaynak teklifinde desteklenir. Tek bir Azure AI hizmetleri Hepsi Bir Arada kaynağı oluşturabilir ve aşağıdaki hizmetler için desteklenen hizmetler arasında aynı faturalama anahtarını kullanabilirsiniz:

  • Azure AI Vision
  • LUIS
  • Dil hizmeti

Önkoşullar

Azure AI kapsayıcılarını kullanmadan önce aşağıdaki önkoşulları karşılamanız gerekir:

Docker Altyapısı: Docker Altyapısı'nın yerel olarak yüklenmiş olması gerekir. Docker, macOS, Linux ve Windows üzerinde Docker ortamını yapılandıran paketler sağlar. Windows'da Docker, Linux kapsayıcılarını destekleyecek şekilde yapılandırılmalıdır. Docker kapsayıcıları doğrudan Azure Kubernetes Service'e veya Azure Container Instances'a da dağıtılabilir.

Docker, kapsayıcıların Azure'a bağlanmasına ve faturalama verileri göndermesine izin verecek şekilde yapılandırılmalıdır.

Microsoft Container Registry ve Docker hakkında bilgi: Kayıt defterleri, depolar, kapsayıcılar ve kapsayıcı görüntüleri gibi Microsoft Container Registry ve Docker kavramlarının yanı sıra temel docker komutlar hakkında bilgi sahibi olmanız gerekir.

Docker ve kapsayıcı temel bilgileri ile ilgili giriş yapmak için Docker’a genel bakış bölümüne bakın.

Tek tek kapsayıcıların sunucu ve bellek ayırma gereksinimleri de dahil olmak üzere kendi gereksinimleri olabilir.

Azure AI hizmetleri kapsayıcı güvenliği

Uygulama geliştirirken güvenlik öncelikli bir odak noktası olmalıdır. Güvenliğin önemi, başarı için bir ölçümdür. Azure AI kapsayıcılarını içeren bir yazılım çözümü tasarlarken, kullanabileceğiniz sınırlamaları ve özellikleri anlamak çok önemlidir. Ağ güvenliği hakkında daha fazla bilgi için bkz . Azure AI hizmetleri sanal ağlarını yapılandırma.

Önemli

Varsayılan olarak Azure AI hizmetleri kapsayıcı API'sinde güvenlik yoktur. Bunun nedeni, kapsayıcının çoğu zaman bir ağ köprüsü tarafından dışarıdan korunan bir podun parçası olarak çalışmasıdır. Ancak, kullanıcıların bulut tabanlı Azure AI hizmetlerine erişirken kullanılan kimlik doğrulama yöntemlerini yaklaşık olarak ayarlamak için kendi kimlik doğrulama altyapılarını oluşturmaları mümkündür.

Aşağıdaki diyagramda varsayılan ve güvenli olmayan yaklaşım gösterilmektedir:

Container security

Alternatif ve güvenli bir yaklaşım örneği olarak, Azure AI kapsayıcılarının tüketicileri kapsayıcıyı ön bileşenle genişleterek kapsayıcı uç noktasını özel tutabilir. Istio'yu giriş ağ geçidi olarak kullandığımız bir senaryo düşünelim. Istio, HTTPS/TLS ve istemci sertifikası kimlik doğrulamayı destekler. Bu senaryoda, Istio ön ucu kapsayıcı erişimini kullanıma sunarak Istio ile önceden onaylanan istemci sertifikasını sunar.

Nginx , aynı kategorideki başka bir popüler seçimdir. Hem Istio hem de Nginx bir hizmet ağı görevi görür ve yük dengeleme, yönlendirme ve hız denetimi gibi ek özellikler sunar.

Kapsayıcı ağ iletişimi

Azure AI kapsayıcılarının faturalama amacıyla ölçüm bilgilerini göndermesi gerekir. Azure AI kapsayıcılarının bağlı olduğu çeşitli ağ kanallarını izin verememesi kapsayıcının çalışmasını engeller.

İzin verilenler listesi Azure AI hizmetleri etki alanları ve bağlantı noktaları

Konak, 443 numaralı bağlantı noktasını ve aşağıdaki etki alanlarını izin verilenler listesine almalıdır:

  • *.cognitive.microsoft.com
  • *.cognitiveservices.azure.com

Derin paket incelemesini devre dışı bırakma

Derin paket incelemesi (DPI), bir bilgisayar ağı üzerinden gönderilen verileri ayrıntılı olarak inceleyen ve genellikle bunu engelleyerek, yeniden yönlendirerek veya buna göre günlüğe kaydederek işlem yapan bir veri işleme türüdür.

Azure AI kapsayıcılarının Microsoft sunucularında oluşturduğu güvenli kanallarda DPI'yi devre dışı bırakın. Bunun yapılmaması kapsayıcının düzgün çalışmasını engeller.

Geliştirici örnekleri

Geliştirici örnekleri GitHub depomuzda bulunabilir.

Sonraki adımlar

Azure AI hizmetleriyle kullanabileceğiniz kapsayıcı tarifleri hakkında bilgi edinin.

Azure AI hizmetlerinde kapsayıcılar tarafından sağlanan işlevleri yükleyin ve keşfedin: