Model dağıtma

Makale
10/16/2024

Modelinizin performansından memnun olduktan sonra dağıtılmaya hazır olur ve konuşmalardan gelen tahminler için sorgular. Modelin dağıtılması, tahmin API'sini kullanarak kullanıma sunulmasını sağlar.

Önkoşullar

Başarıyla oluşturulmuş bir proje
Etiketli konuşmalar ve başarıyla eğitilen model
Modelinizin nasıl performans sergilediğini belirlemek için model performansını gözden geçirdiniz.

Daha fazla bilgi için bkz . proje geliştirme yaşam döngüsü .

Model dağıtma

Modelin performansını gözden geçirdikten ve ortamınızda kullanılmaya uygun olmasına karar verdikten sonra, sorgulayabilmek için modeli bir dağıtıma atamanız gerekir. Modeli bir dağıtıma atamak, tahmin API'si aracılığıyla kullanılabilir hale getirir. Şimdiye kadar oluşturduğunuz en iyi modeli atadığınız adlı bir dağıtım production oluşturmanız ve bunu sisteminizde kullanmanız önerilir. Şu anda üzerinde çalıştığınız modeli test edebilmek için atayabileceğiniz adlı staging başka bir dağıtım oluşturabilirsiniz. Projenizde en fazla 10 dağıtım olabilir.

Language Studio
REST API'leri

Modelinizi Language Studio'dan dağıtmak için:

Sol taraftaki menüden Model dağıtma'ya tıklayın.
Dağıtım ekle sihirbazını başlatmak için Dağıtım ekle'yi seçin.
Yeni bir dağıtım oluşturmak ve aşağıdaki açılan listeden eğitilmiş bir model atamak için Yeni dağıtım adı oluştur'u seçin. Aksi takdirde, var olan bir dağıtım tarafından kullanılan modeli etkili bir şekilde değiştirmek için Var olan bir dağıtım adının üzerine yaz'ı seçebilirsiniz.

Not

Mevcut bir dağıtımın üzerine yazmak Için Tahmin API'si çağrınızda değişiklik yapılması gerekmez, ancak elde ettiğiniz sonuçlar yeni atanan modeli temel alır.
Model açılan listesinden eğitilmiş bir model seçin.
Dağıtım işini başlatmak için Dağıt'ı seçin.
Dağıtım başarılı olduktan sonra, yanında bir sona erme tarihi görüntülenir. Dağıtım süre sonu, dağıtılan modelinizin tahmin için kullanılamadığı zamandır ve bu durum genellikle eğitim yapılandırmasının süresi dolduktan on iki ay sonra gerçekleşir.

Dağıtım işini gönderme

Konuşma dilini anlama modeli dağıtmaya başlamak için aşağıdaki URL' yi, üst bilgileri ve JSON gövdesini kullanarak bir PUT isteği oluşturun.

İstek URL’si

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/deployments/{DEPLOYMENT-NAME}?api-version={API-VERSION}

Yer tutucu	Değer	Örnek
`{ENDPOINT}`	API isteğinizin kimliğini doğrulamak için uç nokta.	`https://<your-custom-subdomain>.cognitiveservices.azure.com`
`{PROJECT-NAME}`	Projenizin adı. Bu değer büyük/küçük harfe duyarlıdır.	`myProject`
`{DEPLOYMENT-NAME}`	Dağıtımınızın adı. Bu değer büyük/küçük harfe duyarlıdır.	`staging`
`{API-VERSION}`	Çağırdığınız API'nin sürümü.	`2023-04-01`

Üst Bilgiler

İsteğinizin kimliğini doğrulamak için aşağıdaki üst bilgiyi kullanın.

Anahtar	Değer
`Ocp-Apim-Subscription-Key`	Kaynağınızın anahtarı. API isteklerinizin kimliğini doğrulamak için kullanılır.

İstek Gövdesi

{
  "trainedModelLabel": "{MODEL-NAME}",
}

Anahtar	Yer tutucu	Değer	Örnek
trainedModelLabel	`{MODEL-NAME}`	Dağıtımınıza atanacak model adı. Yalnızca başarıyla eğitilmiş modeller atayabilirsiniz. Bu değer büyük/küçük harfe duyarlıdır.	`myModel`

API isteğinizi gönderdikten sonra başarılı olduğunu belirten bir 202 yanıt alırsınız. Yanıt üst bilgilerinde değeri ayıklayın operation-location . Şu şekilde biçimlendirilir:

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/deployments/{DEPLOYMENT-NAME}/jobs/{JOB-ID}?api-version={API-VERSION}

Dağıtım işi durumunu almak için bu URL'yi kullanabilirsiniz.

Dağıtım işi durumunu alma

Başarılı bir dağıtım isteği gönderdiğinizde, işin durumunu denetlemeye yönelik tam istek URL'si (uç noktanız, proje adınız ve iş kimliğiniz dahil) yanıtın operation-location üst bilgisinde yer alır.

Dağıtım işinizin durumunu almak için aşağıdaki GET isteğini kullanın. Yer tutucu değerlerini kendi değerlerinizle değiştirin.

İstek URL’si

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/deployments/{DEPLOYMENT-NAME}/jobs/{JOB-ID}?api-version={API-VERSION}

Yer tutucu	Değer	Örnek
`{ENDPOINT}`	API isteğinizin kimliğini doğrulamak için uç nokta.	`https://<your-custom-subdomain>.cognitiveservices.azure.com`
`{PROJECT-NAME}`	Projenizin adı. Bu değer büyük/küçük harfe duyarlıdır.	`myProject`
`{DEPLOYMENT-NAME}`	Dağıtımınızın adı. Bu değer büyük/küçük harfe duyarlıdır.	`staging`
`{JOB-ID}`	Modelinizin eğitim durumunu bulma kimliği.	`xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxxx`
`{API-VERSION}`	Çağırdığınız API'nin sürümü.	`2023-04-01`

Üst Bilgiler

İsteğinizin kimliğini doğrulamak için aşağıdaki üst bilgiyi kullanın.

Anahtar	Değer
`Ocp-Apim-Subscription-Key`	Kaynağınızın anahtarı. API isteklerinizin kimliğini doğrulamak için kullanılır.

Yanıt Gövdesi

İsteği gönderdikten sonra aşağıdaki yanıtı alırsınız. Durum parametresi "başarılı" olarak değişene kadar bu uç noktayı yoklamayı sürdürebilirsiniz.

{
    "jobId":"{JOB-ID}",
    "createdDateTime":"{CREATED-TIME}",
    "lastUpdatedDateTime":"{UPDATED-TIME}",
    "expirationDateTime":"{EXPIRATION-TIME}",
    "status":"running"
}

Dağıtımları değiştirme

Bir dağıtıma atanan modeli test ettikten sonra başka bir dağıtıma atamak isteyebilirsiniz. Dağıtımları değiştirme işlemi şunları içerir:

İlk dağıtıma atanan modeli alma ve ikinci dağıtıma atama.
ikinci dağıtıma atanan modeli alıp ilk dağıtıma atayın.

Bu, ve dağıtımlarınızı production staging , atanan modeli alıp öğesine atamak istediğinizde değiştirmek için staging productionkullanılabilir.

Language Studio
REST API'leri

Language Studio'dan dağıtımları değiştirmek için

Modeli dağıt sayfasında değiştirmek istediğiniz iki dağıtımı seçin ve üstteki menüden Dağıtımları değiştir'i seçin.
Görüntülenen pencerede değiştirmek istediğiniz dağıtımların adlarını seçin.

Değiştirme dağıtımları işini başlatmak için aşağıdaki URL'yi, üst bilgileri ve JSON gövdesini kullanarak bir POST isteği oluşturun.

İstek URL’si

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/deployments/:swap?api-version={API-VERSION}

Yer tutucu	Değer	Örnek
`{ENDPOINT}`	API isteğinizin kimliğini doğrulamak için uç nokta.	`https://<your-custom-subdomain>.cognitiveservices.azure.com`
`{PROJECT-NAME}`	Projenizin adı. Bu değer büyük/küçük harfe duyarlıdır.	`myProject`
`{API-VERSION}`	Çağırdığınız API'nin sürümü.	`2023-04-01`

Üst Bilgiler

İsteğinizin kimliğini doğrulamak için aşağıdaki üst bilgiyi kullanın.

Anahtar	Değer
`Ocp-Apim-Subscription-Key`	Kaynağınızın anahtarı. API isteklerinizin kimliğini doğrulamak için kullanılır.

İstek Gövdesi

{
  "firstDeploymentName": "{FIRST-DEPLOYMENT-NAME}",
  "secondDeploymentName": "{SECOND-DEPLOYMENT-NAME}"
}

Anahtar	Yer tutucu	Değer	Örnek
firstDeploymentName	`{FIRST-DEPLOYMENT-NAME}`	İlk dağıtımınızın adı. Bu değer büyük/küçük harfe duyarlıdır.	`production`
secondDeploymentName	`{SECOND-DEPLOYMENT-NAME}`	İkinci dağıtımınızın adı. Bu değer büyük/küçük harfe duyarlıdır.	`staging`

API isteğinizi gönderdikten sonra başarılı olduğunu belirten bir 202 yanıt alırsınız.

Language Studio'dan bir dağıtımı silmek için Modeli dağıt sayfasını seçin. Ardından silmek istediğiniz dağıtımı seçin ve üstteki menüden Dağıtımı sil'i seçin.

Konuşma dilini anlama dağıtımını silmek için aşağıdaki URL'yi, üst bilgileri ve JSON gövdesini kullanarak bir DELETE isteği oluşturun.

İstek URL’si

{ENDPOINT}/language/authoring/analyze-conversations/projects/{projectName}/deployments/{deploymentName}?api-version={API-VERSION}

Yer tutucu	Değer	Örnek
`{ENDPOINT}`	API isteğinizin kimliğini doğrulamak için uç nokta.	`https://<your-custom-subdomain>.cognitiveservices.azure.com`
`{PROJECT-NAME}`	Projenizin adı. Bu değer büyük/küçük harfe duyarlıdır.	`myProject`
`{DEPLOYMENT-NAME}`	Dağıtım adınızın adı. Bu değer büyük/küçük harfe duyarlıdır.	`staging`
`{API-VERSION}`	Çağırdığınız API'nin sürümü.	`2023-04-01`

Üst Bilgiler

İsteğinizin kimliğini doğrulamak için aşağıdaki üst bilgiyi kullanın.

Anahtar	Değer
`Ocp-Apim-Subscription-Key`	Kaynağınızın anahtarı. API isteklerinizin kimliğini doğrulamak için kullanılır.

API isteğinizi gönderdikten sonra başarılı olduğunu belirten bir 202 yanıt alırsınız ve bu da dağıtımınızın silindiği anlamına gelir.

Dağıtım kaynakları atama

Farklı bölgelerde bulunan farklı Dil kaynaklarını atayarak projenizi birden çok bölgeye dağıtabilirsiniz.

Language Studio
REST API'leri

Language Studio'daki diğer bölgelerde dağıtım kaynakları atamak için:

Projeyi oluştururken kullandığınız kaynağa Bilişsel Hizmetler Dil Sahibi olarak kendinizi atadığınızdan emin olun.
Language Studio'da Model dağıtma sayfasına gidin.
Bölgeler sekmesini seçin.
Dağıtım kaynağı ekle'yi seçin.
Başka bir bölgedeki Dil kaynağını seçin.

Artık projenizi kaynakları atadığınız bölgelere dağıtmaya hazırsınız.

Dağıtım kaynaklarını program aracılığıyla atamak için Microsoft Entra kimlik doğrulaması** gerekir. Microsoft Entra Id, çok bölgeli dağıtım için projenize atamak istediğiniz kaynaklara erişiminizin olduğunu onaylamak için kullanılır. REST API çağrıları yaparken Microsoft Entra kimlik doğrulamasını program aracılığıyla kullanmak için Azure AI hizmetleri kimlik doğrulaması belgelerine bakın.

Kaynak atama

Dağıtım kaynaklarını atamak için aşağıdaki URL'yi, üst bilgileri ve JSON gövdesini kullanarak bir POST isteği gönderin.

İstek URL’si

API isteğinizi oluştururken aşağıdaki URL'yi kullanın. Aşağıdaki yer tutucu değerlerini kendi değerlerinizle değiştirin.

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/resources/:assign?api-version={API-VERSION}

Yer tutucu	Değer	Örnek
`{ENDPOINT}`	API isteğinizin kimliğini doğrulamak için uç nokta.	`https://<your-custom-subdomain>.cognitiveservices.azure.com`
`{PROJECT-NAME}`	Projenizin adı. Bu değer büyük/küçük harfe duyarlıdır.	`myProject`
`{API-VERSION}`	Çağırdığınız API'nin sürümü.	`2022-10-01-preview`

Üst Bilgiler

Bu API'nin kimliğini doğrulamak için Microsoft Entra kimlik doğrulamasını kullanın.

Gövde

Gövdeniz olarak aşağıdaki örnek JSON'yi kullanın.

{
  "resourcesMetadata": [
    {
      "azureResourceId": "{AZURE-RESOURCE-ID}",
      "customDomain": "{CUSTOM-DOMAIN}",
      "region": "{REGION-CODE}"
    }
  ]
}

Anahtar	Yer tutucu	Değer	Örnek
`azureResourceId`	`{AZURE-RESOURCE-ID}`	Atamak istediğiniz tam kaynak kimliği yolu. Azure portalında kaynağın Özellikler sekmesinin altında, Kaynak Kimliği alanında bulunur.	`/subscriptions/12345678-0000-0000-0000-0000abcd1234/resourceGroups/ContosoResourceGroup/providers/Microsoft.CognitiveServices/accounts/ContosoResource`
`customDomain`	`{CUSTOM-DOMAIN}`	Atamak istediğiniz kaynağın özel alt etki alanı. Azure portalında kaynağın Anahtarlar ve Uç Nokta sekmesinin altında, URL'deki Uç Nokta alanının bir parçası olarak bulunur`https://<your-custom-subdomain>.cognitiveservices.azure.com/`	`contosoresource`
`region`	`{REGION-CODE}`	Atamak istediğiniz kaynağın bölgesini belirten bölge kodu. Azure portalında kaynağın Anahtarlar ve Uç Nokta sekmesinin altında Konum/Bölge alanının bir parçası olarak bulunur.	`eastus`

Kaynak atama durumunu alma

Dağıtım kaynağı atama işinizin durumunu almak için aşağıdaki GET isteğini kullanın. Aşağıdaki yer tutucu değerlerini kendi değerlerinizle değiştirin.

İstek URL’si

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/resources/assign/jobs/{JOB-ID}?api-version={API-VERSION}

Yer tutucu	Değer	Örnek
`{ENDPOINT}`	API isteğinizin kimliğini doğrulamak için uç nokta.	`https://<your-custom-subdomain>.cognitiveservices.azure.com`
`{PROJECT-NAME}`	Projenizin adı. Bu değer büyük/küçük harfe duyarlıdır.	`myProject`
`{JOB-ID}`	Atama dağıtım durumunuzu almak için iş kimliği. Bu, atama dağıtım kaynağı isteğinize yanıt olarak API'den aldığınız üst bilgi değerindedir `operation-location` .	`xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxxx`
`{API-VERSION}`	Çağırdığınız API'nin sürümü.	`2022-10-01-preview`

Üst Bilgiler

İsteğinizin kimliğini doğrulamak için aşağıdaki üst bilgiyi kullanın.

Anahtar	Değer
`Ocp-Apim-Subscription-Key`	Kaynağınızın anahtarı. API isteklerinizin kimliğini doğrulamak için kullanılır.

Yanıt Gövdesi

İsteği gönderdikten sonra aşağıdaki yanıtı alırsınız. Durum parametresi "başarılı" olarak değişene kadar bu uç noktayı yoklamayı sürdürebilirsiniz.

{
    "jobId":"{JOB-ID}",
    "createdDateTime":"{CREATED-TIME}",
    "lastUpdatedDateTime":"{UPDATED-TIME}",
    "expirationDateTime":"{EXPIRATION-TIME}",
    "status":"running"
}

Dağıtım kaynaklarının atamasını kaldırma

Bir projedeki dağıtım kaynağının atamasını kaldırırken veya kaldırırken, bu kaynağın bölgesine dağıtılan tüm dağıtımları da silersiniz.

Language Studio
REST API'leri

Language Studio kullanarak diğer bölgelerdeki dağıtım kaynaklarının atamasını kaldırmak veya kaldırmak için:

Model dağıtma sayfasındaki Bölgeler sekmesine gidin.
Atamasını silmek istediğiniz kaynağı seçin.
Ödevi kaldır düğmesini seçin.
Görüntülenen pencerede, kaldırmak istediğiniz kaynağın adını yazın.

Kaynağın atamasını kaldırma

Projenizdeki dağıtım kaynaklarının atamasını kaldırmak veya kaldırmak için aşağıdaki URL' yi, üst bilgileri ve JSON gövdesini kullanarak bir POST isteği gönderin.

İstek URL’si

API isteğinizi oluştururken aşağıdaki URL'yi kullanın. Aşağıdaki yer tutucu değerlerini kendi değerlerinizle değiştirin.

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/resources/:unassign?api-version={API-VERSION}

Yer tutucu	Değer	Örnek
`{ENDPOINT}`	API isteğinizin kimliğini doğrulamak için uç nokta.	`https://<your-custom-subdomain>.cognitiveservices.azure.com`
`{PROJECT-NAME}`	Projenizin adı. Bu değer büyük/küçük harfe duyarlıdır.	`myProject`
`{API-VERSION}`	Çağırdığınız API'nin sürümü.	`2022-10-01-preview`

Üst Bilgiler

İsteğinizin kimliğini doğrulamak için aşağıdaki üst bilgiyi kullanın.

Anahtar	Değer
`Ocp-Apim-Subscription-Key`	Kaynağınızın anahtarı. API isteklerinizin kimliğini doğrulamak için kullanılır.

Gövde

Gövdeniz olarak aşağıdaki örnek JSON'yi kullanın.

{
  "assignedResourceIds": [
    "{AZURE-RESOURCE-ID}"
  ]
}

Anahtar	Yer tutucu	Değer	Örnek
`assignedResourceIds`	`{AZURE-RESOURCE-ID}`	Atamasını kaldırmasını istediğiniz tam kaynak kimliği yolu. Azure portalında kaynağın Özellikler sekmesinin altında Kaynak Kimliği alanı olarak bulunur.	`/subscriptions/d73a1925-0000-0000-0000-0000c5fe888e/resourceGroups/ContosoResourceGroup/providers/Microsoft.CognitiveServices/accounts/ContosoResource`

Kaynak durumunun atamasını kaldırma

Atamasını kaldırma dağıtım kaynakları işinizin durumunu almak için aşağıdaki GET isteğini kullanın. Aşağıdaki yer tutucu değerlerini kendi değerlerinizle değiştirin.

İstek URL’si

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/resources/unassign/jobs/{JOB-ID}?api-version={API-VERSION}

Yer tutucu	Değer	Örnek
`{ENDPOINT}`	API isteğinizin kimliğini doğrulamak için uç nokta.	`https://<your-custom-subdomain>.cognitiveservices.azure.com`
`{PROJECT-NAME}`	Projenizin adı. Bu değer büyük/küçük harfe duyarlıdır.	`myProject`
`{JOB-ID}`	Atama dağıtım durumunuzu almak için iş kimliği. Bu, atamasını `operation-location` kaldırma dağıtım kaynak isteğinize yanıt olarak API'den aldığınız üst bilgi değerindedir.	`xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxxx`
`{API-VERSION}`	Çağırdığınız API'nin sürümü.	`2022-10-01-preview`

Üst Bilgiler

İsteğinizin kimliğini doğrulamak için aşağıdaki üst bilgiyi kullanın.

Anahtar	Değer
`Ocp-Apim-Subscription-Key`	Kaynağınızın anahtarı. API isteklerinizin kimliğini doğrulamak için kullanılır.

Yanıt Gövdesi

İsteği gönderdikten sonra aşağıdaki yanıtı alırsınız. Durum parametresi "başarılı" olarak değişene kadar bu uç noktayı yoklamayı sürdürebilirsiniz.

{
    "jobId":"{JOB-ID}",
    "createdDateTime":"{CREATED-TIME}",
    "lastUpdatedDateTime":"{UPDATED-TIME}",
    "expirationDateTime":"{EXPIRATION-TIME}",
    "status":"running"
}

Sonraki adımlar

Modelinizi sorgulamak için tahmin API'sini kullanma

Aracılığıyla paylaş

Model dağıtma

Önkoşullar

Model dağıtma

Dağıtım işini gönderme

İstek URL’si

Üst Bilgiler

İstek Gövdesi

Dağıtım işi durumunu alma

İstek URL’si

Üst Bilgiler

Yanıt Gövdesi

Dağıtımları değiştirme

İstek URL’si

Üst Bilgiler

İstek Gövdesi

Dağıtımı silme

İstek URL’si

Üst Bilgiler

Dağıtım kaynakları atama

Kaynak atama

İstek URL’si

Üst Bilgiler

Gövde

Kaynak atama durumunu alma

İstek URL’si

Üst Bilgiler

Yanıt Gövdesi

Dağıtım kaynaklarının atamasını kaldırma

Kaynağın atamasını kaldırma

İstek URL’si

Üst Bilgiler

Gövde

Kaynak durumunun atamasını kaldırma

İstek URL’si

Üst Bilgiler

Yanıt Gövdesi

Sonraki adımlar

Geri Bildirim

Ek kaynaklar