Özel Adlandırılmış Varlık Tanıma kapsayıcılarını yükleme ve çalıştırma

Kapsayıcılar, kendi eğitilmiş modelinizi kullanarak Özel Adlandırılmış Varlık Tanıma API'sini kendi altyapınızda barındırmanıza olanak tanır. Özel Adlandırılmış Varlık Tanıma uzaktan çağrılarak karşılanamaz güvenlik veya veri idare gereksinimleriniz varsa kapsayıcılar iyi bir seçenek olabilir.

Not

• Ücretsiz hesap ayda 5.000 metin kaydıyla sınırlıdır ve kapsayıcılar için yalnızca Ücretsiz ve Standart fiyatlandırma katmanları geçerlidir. İşlem isteği oranları hakkında daha fazla bilgi için bkz . Veri ve hizmet sınırları.

Önkoşullar

• Azure aboneliğiniz yoksa ücretsiz hesap oluşturun.
• Docker bir ana bilgisayara yüklendi. Docker, kapsayıcıların Azure'a bağlanmasına ve faturalama verileri göndermesine izin verecek şekilde yapılandırılmalıdır.
  • Windows'da Docker,Linux kapsayıcılarını destekleyecek şekilde de yapılandırılmalıdır.
  • Docker kavramları hakkında temel bilgilere sahip olmanız gerekir.
• Ücretsiz (F0) veya standart (S) fiyatlandırma katmanına sahip bir Dil kaynağı.
• Eğitilmiş ve dağıtılan Özel Adlandırılmış Varlık Tanıma modeli

Gerekli parametreleri toplama

Tüm Azure AI kapsayıcıları için üç birincil parametre gereklidir. Microsoft Yazılım Lisans Koşulları kabul değeriyle birlikte mevcut olmalıdır. Uç Nokta URI'si ve API anahtarı da gereklidir.

Uç nokta URI'si

Bu {ENDPOINT_URI} değere karşılık gelen Azure AI hizmetleri kaynağının Azure portalı genel bakış sayfasından ulaşabilirsiniz. Genel Bakış sayfasına gidin, uç noktanın üzerine gelin ve Panoya kopyala simgesi görüntülenir. Gerektiğinde uç noktayı kopyalayın ve kullanın.

Anahtarlar

Bu {API_KEY} değer kapsayıcıyı başlatmak için kullanılır ve ilgili Azure AI hizmetleri kaynağının Azure portalının Anahtarlar sayfasında kullanılabilir. Anahtarlar sayfasına gidin ve Panoya kopyala simgesini seçin.

Önemli

Bu abonelik anahtarları, Azure AI hizmetleri API'nize erişmek için kullanılır. Anahtarlarınızı paylaşmayın. Bunları güvenli bir şekilde depolayın. Örneğin, Azure Key Vault kullanın. Ayrıca bu anahtarları düzenli olarak yeniden oluşturmanızı öneririz. API çağrısı yapmak için yalnızca bir anahtar gerekir. İlk anahtarı yeniden oluştururken hizmete sürekli erişim için ikinci anahtarı kullanabilirsiniz.

Konak bilgisayar gereksinimleri ve önerileri

Konak, Docker kapsayıcısını çalıştıran x64 tabanlı bir bilgisayardır. Şirket içi bir bilgisayar veya Azure'da Docker barındırma hizmeti olabilir, örneğin:

• Azure Kubernetes Service.
• Azure Container Instances.
• Azure Stack'e dağıtılan bir Kubernetes kümesi. Daha fazla bilgi için bkz . Kubernetes'i Azure Stack'e dağıtma.

Aşağıdaki tabloda Özel Adlandırılmış Varlık Tanıma kapsayıcıları için en düşük ve önerilen belirtimler açıklanmaktadır. Her CPU çekirdeği en az 2,6 gigahertz (GHz) veya daha hızlı olmalıdır. İzin verilebilen Saniye Başına İşlemler (TPS) de listelenir.

	En düşük konak belirtimleri	Önerilen konak özellikleri	En Düşük TPS	En Fazla TPS
Özel Adlandırılmış Varlık Tanıma	1 çekirdek, 2 GB bellek	1 çekirdek, 4 GB bellek	15	30

CPU çekirdeği ve bellek, komutun --cpus bir parçası olarak kullanılan ve --memory ayarlarına docker run karşılık gelir.

Özel Adlandırılmış Varlık Tanıma modelinizi dışarı aktarma

Docker görüntüsünü çalıştırmaya devam etmeden önce, kapsayıcınızda kullanıma sunabilmek için kendi eğitilmiş modelinizi dışarı aktarmanız gerekir. Modelinizi ayıklamak ve aşağıdaki yer tutucuları kendi değerlerinizle değiştirmek için aşağıdaki komutu kullanın:

Yer tutucu	Değer	Biçim veya örnek
{API_KEY}	Özel Adlandırılmış Varlık Tanıma kaynağınızın anahtarı. Kaynağınızın Anahtar ve uç nokta sayfasında, Azure portalında bulabilirsiniz.	xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
{ENDPOINT_URI}	Özel Adlandırılmış Varlık Tanıma API'sine erişmek için uç nokta. Kaynağınızın Anahtar ve uç nokta sayfasında, Azure portalında bulabilirsiniz.	https://<your-custom-subdomain>.cognitiveservices.azure.com
{PROJECT_NAME}	Dışarı aktarmak istediğiniz modeli içeren projenin adı. Bunu Language Studio portalındaki projeler sekmenizde bulabilirsiniz.	myProject
{TRAINED_MODEL_NAME}	Dışarı aktarmak istediğiniz eğitilmiş modelin adı. Eğitilen modellerinizi model değerlendirme sekmenizde, Language Studio portalında projenizin altında bulabilirsiniz.	myTrainedModel

curl --location --request PUT '{ENDPOINT_URI}/language/authoring/analyze-text/projects/{PROJECT_NAME}/exported-models/{TRAINED_MODEL_NAME}?api-version=2023-04-15-preview' \
--header 'Ocp-Apim-Subscription-Key: {API_KEY}' \
--header 'Content-Type: application/json' \
--data-raw '{
    "TrainedmodelLabel": "{TRAINED_MODEL_NAME}"
}'

ile kapsayıcı görüntüsünü alma docker pull

Özel Adlandırılmış Varlık Tanıma kapsayıcı görüntüsü kapsayıcı kayıt defteri dağıtımında mcr.microsoft.com bulunabilir. Depoda azure-cognitive-services/textanalytics/ bulunur ve olarak adlandırılır customner. Tam kapsayıcı görüntüsü adı: mcr.microsoft.com/azure-cognitive-services/textanalytics/customner.

Kapsayıcının en son sürümünü kullanmak için etiketini kullanabilirsiniz latest . McR'de etiketlerin tam listesini de bulabilirsiniz.

Microsoft Container Registry'den docker pull kapsayıcı görüntüsü indirmek için komutunu kullanın.

docker pull mcr.microsoft.com/azure-cognitive-services/textanalytics/customner:latest

İpucu

İndirdiğiniz kapsayıcı görüntülerini listelemek için docker images komutunu kullanabilirsiniz. Örneğin, aşağıdaki komut indirilen her kapsayıcı görüntüsünün kimliğini, deposunu ve etiketini tablo olarak biçimlendirilmiş olarak listeler:

docker images --format "table {{.ID}}\t{{.Repository}}\t{{.Tag}}"

IMAGE ID         REPOSITORY                TAG
<image-id>       <repository-path/name>    <tag-name>

Kapsayıcıyı ile çalıştırma docker run

Kapsayıcı konak bilgisayara yüklendikten sonra docker run komutunu kullanarak kapsayıcıları çalıştırın. Kapsayıcı, siz durdurana kadar çalışmaya devam eder.

Önemli

• Aşağıdaki bölümlerde yer alan docker komutları, \satır devamlılığı karakteri olarak ters eğik çizgi kullanır. Bunu konak işletim sisteminizin gereksinimlerine göre değiştirin veya kaldırın.
• Kapsayıcıyı Eulaçalıştırmak için , Billingve ApiKey seçenekleri belirtilmelidir; aksi takdirde kapsayıcı başlatılmaz. Daha fazla bilgi için bkz . Faturalama.

Özel Adlandırılmış Varlık Tanıma kapsayıcısını çalıştırmak için aşağıdaki docker run komutu yürütür. Aşağıdaki yer tutucuları kendi değerlerinizle değiştirin:

Yer tutucu	Değer	Biçim veya örnek
{API_KEY}	Özel Adlandırılmış Varlık Tanıma kaynağınızın anahtarı. Kaynağınızın Anahtar ve uç nokta sayfasında, Azure portalında bulabilirsiniz.	xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
{ENDPOINT_URI}	Özel Adlandırılmış Varlık Tanıma API'sine erişmek için uç nokta. Kaynağınızın Anahtar ve uç nokta sayfasında, Azure portalında bulabilirsiniz.	https://<your-custom-subdomain>.cognitiveservices.azure.com
{PROJECT_NAME}	Dışarı aktarmak istediğiniz modeli içeren projenin adı. Bunu Language Studio portalındaki projeler sekmenizde bulabilirsiniz.	myProject
{LOCAL_PATH}	Önceki adımda dışarı aktarılan modelin indirileceği yol. İstediğiniz yolu seçebilirsiniz.	C:/custom-ner-model
{TRAINED_MODEL_NAME}	Dışarı aktarmak istediğiniz eğitilmiş modelin adı. Eğitilen modellerinizi model değerlendirme sekmenizde, Language Studio portalında projenizin altında bulabilirsiniz.	myTrainedModel

docker run --rm -it -p5000:5000  --memory 4g --cpus 1 \
-v {LOCAL_PATH}:/modelPath \
mcr.microsoft.com/azure-cognitive-services/textanalytics/customner:latest \
EULA=accept \
BILLING={ENDPOINT_URI} \
APIKEY={API_KEY} \
projectName={PROJECT_NAME}
exportedModelName={TRAINED_MODEL_NAME}

Şu komut:

• Özel Adlandırılmış Varlık Tanıma kapsayıcısını çalıştırır ve dışarı aktarılan modelinizi belirtilen yerel yola indirir.
• Bir CPU çekirdeği ve 4 gigabayt (GB) bellek ayırır
• TCP bağlantı noktası 5000'i kullanıma sunar ve kapsayıcı için sahte TTY ayırır
• Kapsayıcı çıktıktan sonra otomatik olarak kaldırılır. Kapsayıcı görüntüsü ana bilgisayarda hala kullanılabilir.

Aynı konakta birden çok kapsayıcı çalıştırma

Kullanıma sunulan bağlantı noktalarıyla birden çok kapsayıcı çalıştırmayı planlıyorsanız, her kapsayıcıyı farklı bir kullanıma sunulan bağlantı noktasıyla çalıştırdığınızdan emin olun. Örneğin, ilk kapsayıcıyı 5000 numaralı bağlantı noktasında, ikinci kapsayıcıyı da 5001 numaralı bağlantı noktasında çalıştırın.

Bu kapsayıcıyı ve HOST üzerinde çalışan farklı bir Azure AI hizmetleri kapsayıcısını birlikte kullanabilirsiniz. Aynı Azure AI hizmetleri kapsayıcısının birden çok kapsayıcısını da çalıştırabilirsiniz.

Kapsayıcının tahmin uç noktasını sorgulama

Kapsayıcı REST tabanlı sorgu tahmin uç noktası API’lerini sağlar.

Kapsayıcı API’leri için http://localhost:5000 konağını kullanın.

Kapsayıcının çalıştığını doğrulama

Kapsayıcının çalıştığını doğrulamanın çeşitli yolları vardır. Dış IP adresini ve söz konusu kapsayıcının kullanıma sunulan bağlantı noktasını bulun ve sık kullandığınız web tarayıcısını açın. Kapsayıcının çalıştığını doğrulamak için aşağıdaki çeşitli istek URL'lerini kullanın. Burada listelenen örnek istek URL'leri şunlardır http://localhost:5000; ancak kapsayıcınız farklılık gösterebilir. Kapsayıcınızın Dış IP adresine ve kullanıma sunulan bağlantı noktasına bağlı olduğundan emin olun.

İstek URL’si	Purpose
http://localhost:5000/	Kapsayıcı bir giriş sayfası sağlar.
http://localhost:5000/ready	GET ile istenen bu URL, kapsayıcının modele karşı sorgu kabul etmeye hazır olduğunu doğrulamayı sağlar. Bu istek Kubernetes canlılığı ve hazır olma yoklamaları için kullanılabilir.
http://localhost:5000/status	Get ile de istenen bu URL, kapsayıcıyı başlatmak için kullanılan api anahtarının bir uç nokta sorgusuna neden olmadan geçerli olup olmadığını doğrular. Bu istek Kubernetes canlılığı ve hazır olma yoklamaları için kullanılabilir.
http://localhost:5000/swagger	Kapsayıcı uç noktalar için tüm belgeleri ve bir de Deneyin özelliği sağlar. Bu özellik sayesinde, ayarlarınızı web tabanlı bir HTML formuna girebilir ve herhangi bir kod yazmak zorunda kalmadan sorguyu yapabilirsiniz. Sorgu döndürüldikten sonra, gerekli HTTP üst bilgilerini ve gövde biçimini göstermek için örnek bir CURL komutu sağlanır.

Kapsayıcıyı durdurma

Kapsayıcıyı kapatmak için, kapsayıcının çalıştığı komut satırı ortamında Ctrl+C tuşlarına basın.

Sorun giderme

Kapsayıcıyı bir çıkış bağlaması ve günlüğe kaydetme etkin olarak çalıştırırsanız kapsayıcı, kapsayıcıyı başlatırken veya çalıştırırken karşılaşılan sorunları gidermeye yardımcı olan günlük dosyaları oluşturur.

İpucu

Daha fazla sorun giderme bilgisi ve kılavuzu için bkz . Azure AI kapsayıcıları hakkında sık sorulan sorular (SSS).

Faturalandırma

Özel Adlandırılmış Varlık Tanıma kapsayıcıları, Azure hesabınızdaki Özel Adlandırılmış Varlık Tanıma kaynağını kullanarak faturalama bilgilerini Azure'a gönderir.

Kapsayıcıya yönelik sorgular, parametre için kullanılan Azure kaynağının fiyatlandırma katmanında ApiKey faturalandırılır.

Azure AI hizmetleri kapsayıcıları, ölçüm veya faturalama uç noktasına bağlı olmadan çalıştırılma lisansına sahip değildir. Faturalama bilgilerini faturalama uç noktasıyla her zaman iletmek için kapsayıcıları etkinleştirmeniz gerekir. Azure AI hizmetleri kapsayıcıları, analiz edilen görüntü veya metin gibi müşteri verilerini Microsoft'a göndermez.

Azure'a bağlanma

Kapsayıcının çalışması için faturalama bağımsız değişkeni değerleri gerekir. Bu değerler kapsayıcının faturalama uç noktasına bağlanmasına olanak sağlar. Kapsayıcı yaklaşık 10-15 dakikada bir kullanımı bildirir. Kapsayıcı izin verilen zaman penceresinde Azure'a bağlanmazsa, kapsayıcı çalışmaya devam eder ancak faturalama uç noktası geri yüklenene kadar sorgular sunmaz. Bağlantı, 10 ile 15 dakika aynı zaman aralığında 10 kez denenir. 10 denemede faturalama uç noktasına bağlanamazsa kapsayıcı isteklerin sunulmasını durdurur. Faturalama için Microsoft'a gönderilen bilgilerin bir örneği için bkz. Azure AI hizmetleri kapsayıcısı SSS .

Faturalama bağımsız değişkenleri

Komut, docker run aşağıdaki seçeneklerin üçü de geçerli değerlerle sağlandığında kapsayıcıyı başlatır:

Seçenek	Açıklama
ApiKey	Faturalama bilgilerini izlemek için kullanılan Azure AI hizmetleri kaynağının API anahtarı. Bu seçeneğin değeri, içinde belirtilen sağlanan kaynak için bir API anahtarına Billingayarlanmalıdır.
Billing	Faturalama bilgilerini izlemek için kullanılan Azure AI hizmetleri kaynağının uç noktası. Bu seçeneğin değeri, sağlanan bir Azure kaynağının uç nokta URI'sine ayarlanmalıdır.
Eula	Kapsayıcının lisansını kabul ettiğinizi gösterir. Bu seçeneğin değeri kabul edilecek şekilde ayarlanmalıdır.

Özet

Bu makalede, Özel Adlandırılmış Varlık Tanıma kapsayıcılarını indirmeye, yüklemeye ve çalıştırmaya yönelik kavramları ve iş akışını öğrendiniz. Özet olarak:

• Özel Adlandırılmış Varlık Tanıma, Docker için Linux kapsayıcıları sağlar.
• Kapsayıcı görüntüleri Microsoft Container Registry'den (MCR) indirilir.
• Kapsayıcı görüntüleri Docker'da çalışır.
• Kapsayıcının konak URI'sini belirterek Özel Adlandırılmış Varlık Tanıma kapsayıcılarındaki işlemleri çağırmak için REST API veya SDK kullanabilirsiniz.
• Kapsayıcı örneği oluştururken faturalama bilgilerini belirtmeniz gerekir.

Önemli

Azure yapay zeka kapsayıcıları, ölçüm için Azure'a bağlanmadan çalıştırılma lisansına sahip değildir. Müşterilerin, kapsayıcıların faturalama bilgilerini ölçüm hizmetiyle her zaman iletmesini sağlaması gerekir. Azure AI kapsayıcıları müşteri verilerini (örneğin analiz edilen metin) Microsoft'a göndermez.

Sonraki adımlar

• Bkz . Yapılandırma ayarları için kapsayıcıları yapılandırma.