Wdrażanie modelu przepływu pracy orkiestracji

Gdy model działa, będzie gotowy do wdrożenia i wykonać zapytanie o przewidywania z wypowiedzi. Wdrożenie modelu udostępnia go do użycia za pośrednictwem interfejsu API przewidywania.

Wymagania wstępne

• Pomyślnie utworzono projekt
• Oznaczone wypowiedziami i pomyślnie wytrenowanym modelem

Aby uzyskać więcej informacji, zobacz cykl projektowania projektu.

Wdrażanie modelu

Po przejrzeniu wydajności modelu i podjęciu decyzji, że można go używać w danym środowisku, musisz przypisać go do wdrożenia, aby móc wykonywać względem niego zapytania. Przypisanie modelu do wdrożenia udostępnia go do użycia za pośrednictwem interfejsu API przewidywania. Zaleca się utworzenie wdrożenia o nazwie production , do którego przypisano najlepszy model utworzony do tej pory i użycie go w systemie. Możesz utworzyć kolejne wdrożenie o nazwie staging , do którego można przypisać model, nad którym pracujesz, aby móc go przetestować. W projekcie można mieć maksymalnie 10 wdrożeń.

Language Studio

Aby wdrożyć model z poziomu programu Language Studio:

1. Wybierz pozycję Deploying a model (Wdrażanie modelu ) z menu po lewej stronie.

2. Wybierz pozycję Dodaj wdrożenie , aby rozpocząć nowe zadanie wdrażania.

   

3. Wybierz pozycję Utwórz nowe wdrożenie, aby utworzyć nowe wdrożenie i przypisać wytrenowany model z poniższej listy rozwijanej. Możesz również zastąpić istniejące wdrożenie , wybierając tę opcję i wybierając wytrenowany model, który chcesz przypisać do niego z listy rozwijanej poniżej.

   Uwaga

   Zastępowanie istniejącego wdrożenia nie wymaga zmian wywołania interfejsu API przewidywania, ale uzyskane wyniki będą oparte na nowo przypisanym modelu.

   

4. Jeśli łączysz co najmniej jedną aplikację usługi LUIS lub projekty interpretacji języka konwersacyjnego, musisz określić nazwę wdrożenia.

   • W przypadku niestandardowych intencji odpowiedzi na pytania lub bez połączenia nie są wymagane żadne konfiguracje.

   • Projekty usługi LUIS muszą być publikowane w miejscu skonfigurowanym podczas wdrażania orkiestracji, a niestandardowe odpowiedzi na pytania muszą być również publikowane w miejscach produkcyjnych.

5. Wybierz pozycję Wdróż , aby przesłać zadanie wdrożenia

6. Po pomyślnym wdrożeniu obok zostanie wyświetlona data wygaśnięcia. Wygaśnięcie wdrożenia jest wtedy, gdy wdrożony model będzie niedostępny do przewidywania, co zwykle występuje dwanaście miesięcy po wygaśnięciu konfiguracji trenowania.

Interfejsy API REST

Przesyłanie zadania wdrożenia

Utwórz żądanie PUT przy użyciu następującego adresu URL, nagłówków i treści JSON, aby rozpocząć wdrażanie modelu przepływu pracy aranżacji.

Zażądaj URL

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/deployments/{DEPLOYMENT-NAME}?api-version={API-VERSION}

Symbol zastępczy	Wartość	Przykład
{ENDPOINT}	Punkt końcowy do uwierzytelniania żądania interfejsu API.	https://<your-custom-subdomain>.cognitiveservices.azure.com
{PROJECT-NAME}	Nazwa projektu. Ta wartość jest uwzględniana w wielkości liter.	myProject
{DEPLOYMENT-NAME}	Nazwa wdrożenia. Ta wartość jest uwzględniana w wielkości liter.	staging
{API-VERSION}	Wersja wywoływanego interfejsu API.	2023-04-01

Nagłówki

Użyj następującego nagłówka, aby uwierzytelnić żądanie.

Klucz	Wartość
Ocp-Apim-Subscription-Key	Klucz do zasobu. Służy do uwierzytelniania żądań interfejsu API.

Treść żądania

{
  "trainedModelLabel": "{MODEL-NAME}",
}

Klucz	Symbol zastępczy	Wartość	Przykład
trainedModelLabel	{MODEL-NAME}	Nazwa modelu, która zostanie przypisana do wdrożenia. Można przypisywać tylko pomyślnie wytrenowane modele. Ta wartość jest uwzględniana w wielkości liter.	myModel

Po wysłaniu żądania interfejsu API otrzymasz odpowiedź wskazującą 202 powodzenie. W nagłówkach odpowiedzi wyodrębnij operation-location wartość. Zostanie on sformatowany w następujący sposób:

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/deployments/{DEPLOYMENT-NAME}/jobs/{JOB-ID}?api-version={API-VERSION}

Możesz użyć tego adresu URL, aby uzyskać stan zadania wdrożenia.

Pobieranie stanu zadania wdrożenia

Użyj następującego żądania GET , aby uzyskać stan zadania wdrożenia. Zastąp poniższe wartości symboli zastępczych własnymi wartościami.

Zażądaj URL

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/deployments/{DEPLOYMENT-NAME}/jobs/{JOB-ID}?api-version={API-VERSION}

Symbol zastępczy	Wartość	Przykład
{ENDPOINT}	Punkt końcowy do uwierzytelniania żądania interfejsu API.	https://<your-custom-subdomain>.cognitiveservices.azure.com
{PROJECT-NAME}	Nazwa projektu. Ta wartość jest uwzględniana w wielkości liter.	myProject
{DEPLOYMENT-NAME}	Nazwa wdrożenia. Ta wartość jest uwzględniana w wielkości liter.	staging
{JOB-ID}	Identyfikator lokalizowania stanu trenowania modelu. Jest to wartość nagłówka location odebrana z interfejsu API w odpowiedzi na żądanie wdrożenia modelu.	xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxxx
{API-VERSION}	Wersja wywoływanego interfejsu API.	2023-04-01

Nagłówki

Użyj następującego nagłówka, aby uwierzytelnić żądanie.

Klucz	Wartość
Ocp-Apim-Subscription-Key	Klucz do zasobu. Służy do uwierzytelniania żądań interfejsu API.

Treść odpowiedzi

Po wysłaniu żądania otrzymasz następującą odpowiedź. Nie sonduj tego punktu końcowego , dopóki parametr stanu nie zmieni się na "powodzenie".

{
    "jobId":"{JOB-ID}",
    "createdDateTime":"{CREATED-TIME}",
    "lastUpdatedDateTime":"{UPDATED-TIME}",
    "expirationDateTime":"{EXPIRATION-TIME}",
    "status":"running"
}

Zamień wdrożenia

Po zakończeniu testowania modelu przypisanego do jednego wdrożenia warto przypisać go do innego wdrożenia. Zamiana wdrożeń obejmuje:

• Pobranie modelu przypisanego do pierwszego wdrożenia i przypisanie go do drugiego wdrożenia.
• pobranie modelu przypisanego do drugiego wdrożenia i przypisanie go do pierwszego wdrożenia.

Może to służyć do zamiany production wdrożeń i staging , gdy chcesz przejąć model przypisany do staging i przypisać go do production.

Language Studio

Aby zamienić wdrożenia z poziomu programu Language Studio

1. Na stronie Wdrażanie modelu wybierz dwa wdrożenia, które chcesz zamienić, i wybierz pozycję Zamień wdrożenia z górnego menu.

2. W wyświetlonym oknie wybierz nazwy wdrożeń, które chcesz zamienić.

Interfejsy API REST

Utwórz żądanie POST przy użyciu następującego adresu URL, nagłówków i treści JSON, aby rozpocząć zadanie wdrażania zamiany.

Zażądaj URL

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/deployments/:swap?api-version={API-VERSION}

Symbol zastępczy	Wartość	Przykład
{ENDPOINT}	Punkt końcowy do uwierzytelniania żądania interfejsu API.	https://<your-custom-subdomain>.cognitiveservices.azure.com
{PROJECT-NAME}	Nazwa projektu. Ta wartość jest uwzględniana w wielkości liter.	myProject
{API-VERSION}	Wersja wywoływanego interfejsu API.	2023-04-01

Nagłówki

Użyj następującego nagłówka, aby uwierzytelnić żądanie.

Klucz	Wartość
Ocp-Apim-Subscription-Key	Klucz do zasobu. Służy do uwierzytelniania żądań interfejsu API.

Treść żądania

{
  "firstDeploymentName": "{FIRST-DEPLOYMENT-NAME}",
  "secondDeploymentName": "{SECOND-DEPLOYMENT-NAME}"
}

Klucz	Symbol zastępczy	Wartość	Przykład
firstDeploymentName	{FIRST-DEPLOYMENT-NAME}	Nazwa pierwszego wdrożenia. Ta wartość jest uwzględniana w wielkości liter.	production
secondDeploymentName	{SECOND-DEPLOYMENT-NAME}	Nazwa drugiego wdrożenia. Ta wartość jest uwzględniana w wielkości liter.	staging

Po wysłaniu żądania interfejsu API otrzymasz odpowiedź wskazującą 202 powodzenie.

Usuwanie wdrożenia

Language Studio

Aby usunąć wdrożenie z poziomu programu Language Studio, przejdź do strony Wdrażanie modelu . Wybierz wdrożenie, które chcesz usunąć, a następnie wybierz pozycję Usuń wdrożenie w górnym menu.

Interfejsy API REST

Utwórz żądanie DELETE przy użyciu następującego adresu URL, nagłówków i treści JSON, aby usunąć wdrożenie interpretacji języka konwersacji.

Zażądaj URL

{ENDPOINT}/language/authoring/analyze-conversations/projects/{projectName}/deployments/{deploymentName}?api-version={API-VERSION}

Symbol zastępczy	Wartość	Przykład
{ENDPOINT}	Punkt końcowy do uwierzytelniania żądania interfejsu API.	https://<your-custom-subdomain>.cognitiveservices.azure.com
{PROJECT-NAME}	Nazwa projektu. Ta wartość jest uwzględniana w wielkości liter.	myProject
{DEPLOYMENT-NAME}	Nazwa wdrożenia. Ta wartość jest uwzględniana w wielkości liter.	staging
{API-VERSION}	Wersja wywoływanego interfejsu API.	2023-04-01

Nagłówki

Użyj następującego nagłówka, aby uwierzytelnić żądanie.

Klucz	Wartość
Ocp-Apim-Subscription-Key	Klucz do zasobu. Służy do uwierzytelniania żądań interfejsu API.

Po wysłaniu żądania interfejsu API otrzymasz odpowiedź wskazującą 202 powodzenie, co oznacza, że wdrożenie zostało usunięte.

Przypisywanie zasobów wdrażania

Projekt można wdrożyć w wielu regionach , przypisując różne zasoby językowe, które istnieją w różnych regionach.

Language Studio

Aby przypisać zasoby wdrażania w innych regionach w programie Language Studio:

1. Upewnij się, że masz przypisaną rolę właściciela języka usług Cognitive Services do zasobu użytego do utworzenia projektu.
2. Przejdź do strony Wdrażanie modelu w programie Language Studio.
3. Wybierz kartę Regiony .
4. Wybierz pozycję Dodaj zasób wdrożenia.
5. Wybierz zasób języka w innym regionie.

Teraz możesz przystąpić do wdrażania projektu w regionach, w których przypisano zasoby.

Interfejsy API REST

Programowe przypisywanie zasobów wdrażania wymaga uwierzytelniania entra firmy Microsoft**. Identyfikator Entra firmy Microsoft służy do potwierdzania, że masz dostęp do zasobów, które chcesz przypisać do projektu na potrzeby wdrożenia w wielu regionach. Aby programowo używać uwierzytelniania entra firmy Microsoft podczas wykonywania wywołań interfejsu API REST, zobacz dokumentację uwierzytelniania usług Azure AI.

Przypisywanie zasobu

Prześlij żądanie POST przy użyciu następującego adresu URL, nagłówków i treści JSON, aby przypisać zasoby wdrożenia.

Zażądaj URL

Podczas tworzenia żądania interfejsu API użyj następującego adresu URL. Zastąp poniższe wartości symboli zastępczych własnymi wartościami.

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/resources/:assign?api-version={API-VERSION}

Symbol zastępczy	Wartość	Przykład
{ENDPOINT}	Punkt końcowy do uwierzytelniania żądania interfejsu API.	https://<your-custom-subdomain>.cognitiveservices.azure.com
{PROJECT-NAME}	Nazwa projektu. Ta wartość jest uwzględniana w wielkości liter.	myProject
{API-VERSION}	Wersja wywoływanego interfejsu API.	2022-10-01-preview

Nagłówki

Użyj uwierzytelniania firmy Microsoft Entra, aby uwierzytelnić ten interfejs API.

Treść

Użyj następującego przykładowego kodu JSON jako treści.

{
  "resourcesMetadata": [
    {
      "azureResourceId": "{AZURE-RESOURCE-ID}",
      "customDomain": "{CUSTOM-DOMAIN}",
      "region": "{REGION-CODE}"
    }
  ]
}

Klucz	Symbol zastępczy	Wartość	Przykład
azureResourceId	{AZURE-RESOURCE-ID}	Pełna ścieżka identyfikatora zasobu, którą chcesz przypisać. Znaleziono w witrynie Azure Portal na karcie Właściwości zasobu w polu Identyfikator zasobu .	/subscriptions/12345678-0000-0000-0000-0000abcd1234/resourceGroups/ContosoResourceGroup/providers/Microsoft.CognitiveServices/accounts/ContosoResource
customDomain	{CUSTOM-DOMAIN}	Niestandardowa poddomena zasobu, który chcesz przypisać. Znaleziono w witrynie Azure Portal na karcie Klucze i punkt końcowy zasobu, część pola Punkt końcowy w adresie URL https://<your-custom-subdomain>.cognitiveservices.azure.com/	contosoresource
region	{REGION-CODE}	Kod regionu określający region zasobu, który chcesz przypisać. Znaleziono w witrynie Azure Portal na karcie Klucze i punkt końcowy zasobu w ramach pola Lokalizacja/region .	eastus

Uzyskiwanie stanu zasobu przypisania

Użyj następującego żądania GET , aby uzyskać stan zadania przypisania zasobu wdrożenia. Zastąp poniższe wartości symboli zastępczych własnymi wartościami.

Zażądaj URL

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/resources/assign/jobs/{JOB-ID}?api-version={API-VERSION}

Symbol zastępczy	Wartość	Przykład
{ENDPOINT}	Punkt końcowy do uwierzytelniania żądania interfejsu API.	https://<your-custom-subdomain>.cognitiveservices.azure.com
{PROJECT-NAME}	Nazwa projektu. Ta wartość jest uwzględniana w wielkości liter.	myProject
{JOB-ID}	Identyfikator zadania służącego do uzyskiwania stanu wdrożenia przypisania. Jest to wartość nagłówka operation-location odebrana z interfejsu API w odpowiedzi na żądanie przypisania zasobu wdrożenia.	xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxxx
{API-VERSION}	Wersja wywoływanego interfejsu API.	2022-10-01-preview

Nagłówki

Użyj następującego nagłówka, aby uwierzytelnić żądanie.

Klucz	Wartość
Ocp-Apim-Subscription-Key	Klucz do zasobu. Służy do uwierzytelniania żądań interfejsu API.

Treść odpowiedzi

Po wysłaniu żądania otrzymasz następującą odpowiedź. Nie sonduj tego punktu końcowego , dopóki parametr stanu nie zmieni się na "powodzenie".

{
    "jobId":"{JOB-ID}",
    "createdDateTime":"{CREATED-TIME}",
    "lastUpdatedDateTime":"{UPDATED-TIME}",
    "expirationDateTime":"{EXPIRATION-TIME}",
    "status":"running"
}

Anulowanie przypisania zasobów wdrażania

Usunięcie lub usunięcie zasobu wdrożenia z projektu spowoduje również usunięcie wszystkich wdrożeń wdrożonych w regionie tego zasobu.

Language Studio

Aby cofnąć przypisanie lub usunąć zasoby wdrożenia w innych regionach przy użyciu programu Language Studio:

1. Przejdź do karty Regiony na stronie Wdrażanie modelu.
2. Wybierz zasób, który chcesz cofnąć przypisania.
3. Wybierz przycisk Usuń przypisanie.
4. W wyświetlonym oknie wpisz nazwę zasobu, który chcesz usunąć.

Interfejsy API REST

Nieprzypisane zasób

Prześlij żądanie POST przy użyciu następującego adresu URL, nagłówków i treści JSON, aby cofnąć przypisanie lub usunąć zasoby wdrożenia z projektu.

Zażądaj URL

Podczas tworzenia żądania interfejsu API użyj następującego adresu URL. Zastąp poniższe wartości symboli zastępczych własnymi wartościami.

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/resources/:unassign?api-version={API-VERSION}

Symbol zastępczy	Wartość	Przykład
{ENDPOINT}	Punkt końcowy do uwierzytelniania żądania interfejsu API.	https://<your-custom-subdomain>.cognitiveservices.azure.com
{PROJECT-NAME}	Nazwa projektu. Ta wartość jest uwzględniana w wielkości liter.	myProject
{API-VERSION}	Wersja wywoływanego interfejsu API.	2022-10-01-preview

Nagłówki

Użyj następującego nagłówka, aby uwierzytelnić żądanie.

Klucz	Wartość
Ocp-Apim-Subscription-Key	Klucz do zasobu. Służy do uwierzytelniania żądań interfejsu API.

Treść

Użyj następującego przykładowego kodu JSON jako treści.

{
  "assignedResourceIds": [
    "{AZURE-RESOURCE-ID}"
  ]
}

Klucz	Symbol zastępczy	Wartość	Przykład
assignedResourceIds	{AZURE-RESOURCE-ID}	Pełna ścieżka identyfikatora zasobu, którą chcesz cofnąć. Znaleziono w witrynie Azure Portal na karcie Właściwości zasobu jako pole Identyfikator zasobu.	/subscriptions/d73a1925-0000-0000-0000-0000c5fe888e/resourceGroups/ContosoResourceGroup/providers/Microsoft.CognitiveServices/accounts/ContosoResource

Pobieranie stanu nieprzypisanych zasobów

Użyj następującego żądania GET , aby uzyskać stan zadania nieprzypisanych zasobów wdrożenia. Zastąp poniższe wartości symboli zastępczych własnymi wartościami.

Zażądaj URL

{ENDPOINT}/language/authoring/analyze-conversations/projects/{PROJECT-NAME}/resources/unassign/jobs/{JOB-ID}?api-version={API-VERSION}

Symbol zastępczy	Wartość	Przykład
{ENDPOINT}	Punkt końcowy do uwierzytelniania żądania interfejsu API.	https://<your-custom-subdomain>.cognitiveservices.azure.com
{PROJECT-NAME}	Nazwa projektu. Ta wartość jest uwzględniana w wielkości liter.	myProject
{JOB-ID}	Identyfikator zadania służącego do uzyskiwania stanu wdrożenia przypisania. Jest to wartość nagłówka operation-location odebrana z interfejsu API w odpowiedzi na żądanie nieprzypisywania zasobu wdrożenia.	xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxxx
{API-VERSION}	Wersja wywoływanego interfejsu API.	2022-10-01-preview

Nagłówki

Użyj następującego nagłówka, aby uwierzytelnić żądanie.

Klucz	Wartość
Ocp-Apim-Subscription-Key	Klucz do zasobu. Służy do uwierzytelniania żądań interfejsu API.

Treść odpowiedzi

Po wysłaniu żądania otrzymasz następującą odpowiedź. Nie sonduj tego punktu końcowego , dopóki parametr stanu nie zmieni się na "powodzenie".

{
    "jobId":"{JOB-ID}",
    "createdDateTime":"{CREATED-TIME}",
    "lastUpdatedDateTime":"{UPDATED-TIME}",
    "expirationDateTime":"{EXPIRATION-TIME}",
    "status":"running"
}

Następne kroki

Używanie interfejsu API przewidywania do wykonywania zapytań względem modelu