Nasazení vlastního modelu řeči

Článek
04/15/2024

V tomto článku se dozvíte, jak nasadit koncový bod pro vlastní model řeči. Kromě dávkového přepisu musíte nasadit vlastní koncový bod pro použití vlastního modelu řeči.

Tip

Koncový bod hostovaného nasazení není nutný k použití vlastní řeči s rozhraním API pro přepis služby Batch. Prostředky můžete ušetřit, pokud se vlastní model řeči používá jenom pro dávkový přepis. Další informace najdete v tématu Ceny služby Speech.

Můžete nasadit koncový bod pro základní nebo vlastní model a později ho aktualizovat , aby používal lépe natrénovaný model.

Poznámka:

Koncové body používané F0 prostředky služby Speech se odstraní po sedmi dnech.

Přidání koncového bodu nasazení

Pokud chcete vytvořit vlastní koncový bod, postupujte takto:

Přihlaste se k sadě Speech Studio.
Vyberte Custom speech> Your project name >Deploy models.

Pokud se jedná o váš první koncový bod, všimněte si, že v tabulce nejsou uvedené žádné koncové body. Po vytvoření koncového bodu na této stránce můžete sledovat jednotlivé nasazené koncové body.
Výběrem možnosti Nasadit model spusťte průvodce novým koncovým bodem.
Na stránce Nový koncový bod zadejte název a popis vlastního koncového bodu.
Vyberte vlastní model, který chcete ke koncovému bodu přidružit.
Volitelně můžete zaškrtnout políčko a povolit protokolování zvuku a diagnostiky provozu koncového bodu.
Vyberte Přidat a uložte a nasaďte koncový bod.

Na hlavní stránce Nasazení modelů se podrobnosti o novém koncovém bodu zobrazí v tabulce, jako je název, popis, stav a datum vypršení platnosti. Vytvoření instance nového koncového bodu, který používá vaše vlastní modely, může trvat až 30 minut. Když se stav nasazení změní na Úspěch, koncový bod je připravený k použití.

Důležité

Poznamenejte si datum vypršení platnosti modelu. Toto je poslední datum, kdy můžete pro rozpoznávání řeči použít vlastní model. Další informace najdete v tématu Životní cyklus modelu a koncového bodu.

Výběrem odkazu na koncový bod zobrazíte konkrétní informace, jako je klíč koncového bodu, adresa URL koncového bodu a ukázkový kód.

K vytvoření koncového bodu a nasazení modelu použijte spx csr endpoint create příkaz. Parametry požadavku se sestaví podle následujících pokynů:

project Nastavte parametr na ID existujícího projektu. Doporučuje se také zobrazit a spravovat koncový bod v sadě Speech Studio. Spuštěním spx csr project list příkazu můžete získat dostupné projekty.
Nastavte požadovaný model parametr na ID modelu, který chcete nasadit do koncového bodu.
Nastavte požadovaný language parametr. Národní prostředí koncového bodu musí odpovídat národnímu prostředí modelu. Národní prostředí nelze později změnit. Parametr Rozhraní příkazového locale řádku language služby Speech odpovídá vlastnosti v požadavku JSON a odpovědi.
Nastavte požadovaný name parametr. Toto je název, který se zobrazí v sadě Speech Studio. Parametr Rozhraní příkazového displayName řádku name služby Speech odpovídá vlastnosti v požadavku JSON a odpovědi.
Volitelně můžete parametr nastavit logging . Nastavte na to, aby enabled se povolilo protokolování zvuku a diagnostiky provozu koncového bodu. Výchozí hodnota je false.

Tady je ukázkový příkaz Rozhraní příkazového řádku služby Speech, který vytvoří koncový bod a nasadí model:

spx csr endpoint create --api-version v3.1 --project YourProjectId --model YourModelId --name "My Endpoint" --description "My Endpoint Description" --language "en-US"

Měl by se zobrazit text odpovědi v následujícím formátu:

{
  "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/endpoints/98375aaa-40c2-42c4-b65c-f76734fc7790",
  "model": {
    "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/models/base/ae8d1643-53e4-4554-be4c-221dcfb471c5"
  },
  "links": {
    "logs": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/endpoints/98375aaa-40c2-42c4-b65c-f76734fc7790/files/logs",
    "restInteractive": "https://eastus.stt.speech.microsoft.com/speech/recognition/interactive/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "restConversation": "https://eastus.stt.speech.microsoft.com/speech/recognition/conversation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "restDictation": "https://eastus.stt.speech.microsoft.com/speech/recognition/dictation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "webSocketInteractive": "wss://eastus.stt.speech.microsoft.com/speech/recognition/interactive/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "webSocketConversation": "wss://eastus.stt.speech.microsoft.com/speech/recognition/conversation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "webSocketDictation": "wss://eastus.stt.speech.microsoft.com/speech/recognition/dictation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790"
  },
  "project": {
    "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/projects/d40f2eb8-1abf-4f72-9008-a5ae8add82a4"
  },
  "properties": {
    "loggingEnabled": true
  },
  "lastActionDateTime": "2022-05-19T15:27:51Z",
  "status": "NotStarted",
  "createdDateTime": "2022-05-19T15:27:51Z",
  "locale": "en-US",
  "displayName": "My Endpoint",
  "description": "My Endpoint Description"
}

Vlastnost nejvyšší úrovně self v těle odpovědi je identifikátor URI koncového bodu. Pomocí tohoto identifikátoru URI získáte podrobnosti o projektu, modelu a protokolech koncového bodu. Tento identifikátor URI také použijete k aktualizaci koncového bodu.

V případě nápovědy k rozhraní příkazového řádku služby Speech s koncovými body spusťte následující příkaz:

spx help csr endpoint

Pokud chcete vytvořit koncový bod a nasadit model, použijte Endpoints_Create operaci speech na textové rozhraní REST API. Sestavte tělo požadavku podle následujících pokynů:

project Nastavte vlastnost na identifikátor URI existujícího projektu. Doporučuje se také zobrazit a spravovat koncový bod v sadě Speech Studio. Můžete vytvořit Projects_List žádost o získání dostupných projektů.
Nastavte požadovanou model vlastnost na identifikátor URI modelu, který chcete nasadit do koncového bodu.
Nastavte požadovanou locale vlastnost. Národní prostředí koncového bodu musí odpovídat národnímu prostředí modelu. Národní prostředí nelze později změnit.
Nastavte požadovanou displayName vlastnost. Toto je název, který se zobrazí v sadě Speech Studio.
Volitelně můžete vlastnost nastavit loggingEnabled v rámci properties. Nastavte na to, aby true se povolilo protokolování zvuku a diagnostiky provozu koncového bodu. Výchozí hodnota je false.

Vytvořte požadavek HTTP POST pomocí identifikátoru URI, jak je znázorněno v následujícím příkladu Endpoints_Create. Nahraďte YourSubscriptionKey klíčem prostředku služby Speech, nahraďte YourServiceRegion oblastí prostředků služby Speech a nastavte vlastnosti textu požadavku, jak jsme popsali dříve.

curl -v -X POST -H "Ocp-Apim-Subscription-Key: YourSubscriptionKey" -H "Content-Type: application/json" -d '{
  "project": {
    "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/projects/d40f2eb8-1abf-4f72-9008-a5ae8add82a4"
  },
  "properties": {
    "loggingEnabled": true
  },
  "displayName": "My Endpoint",
  "description": "My Endpoint Description",
  "model": {
    "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/models/base/ae8d1643-53e4-4554-be4c-221dcfb471c5"
  },
  "locale": "en-US",
}'  "https://YourServiceRegion.api.cognitive.microsoft.com/speechtotext/v3.1/endpoints"

Měl by se zobrazit text odpovědi v následujícím formátu:

{
  "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/endpoints/98375aaa-40c2-42c4-b65c-f76734fc7790",
  "model": {
    "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/models/base/ae8d1643-53e4-4554-be4c-221dcfb471c5"
  },
  "links": {
    "logs": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/endpoints/98375aaa-40c2-42c4-b65c-f76734fc7790/files/logs",
    "restInteractive": "https://eastus.stt.speech.microsoft.com/speech/recognition/interactive/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "restConversation": "https://eastus.stt.speech.microsoft.com/speech/recognition/conversation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "restDictation": "https://eastus.stt.speech.microsoft.com/speech/recognition/dictation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "webSocketInteractive": "wss://eastus.stt.speech.microsoft.com/speech/recognition/interactive/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "webSocketConversation": "wss://eastus.stt.speech.microsoft.com/speech/recognition/conversation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "webSocketDictation": "wss://eastus.stt.speech.microsoft.com/speech/recognition/dictation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790"
  },
  "project": {
    "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/projects/d40f2eb8-1abf-4f72-9008-a5ae8add82a4"
  },
  "properties": {
    "loggingEnabled": true
  },
  "lastActionDateTime": "2022-05-19T15:27:51Z",
  "status": "NotStarted",
  "createdDateTime": "2022-05-19T15:27:51Z",
  "locale": "en-US",
  "displayName": "My Endpoint",
  "description": "My Endpoint Description"
}

Změna modelu a opětovného nasazení koncového bodu

Koncový bod je možné aktualizovat tak, aby používal jiný model vytvořený stejným prostředkem služby Speech. Jak už jsme zmínili dříve, musíte aktualizovat model koncového bodu před vypršením platnosti modelu.

Použití nového modelu a opětovné nasazení vlastního koncového bodu:

Přihlaste se k sadě Speech Studio.
Vyberte Custom speech> Your project name >Deploy models.
Vyberte odkaz na koncový bod podle názvu a pak vyberte Změnit model.
Vyberte nový model, který má koncový bod používat.
Vyberte Hotovo a uložte a znovu nasaďte koncový bod.

Pokud chcete vlastní koncový bod znovu nasadit pomocí nového modelu, použijte spx csr model update tento příkaz. Parametry požadavku se sestaví podle následujících pokynů:

Nastavte požadovaný endpoint parametr na ID koncového bodu, který chcete nasadit.
Nastavte požadovaný model parametr na ID modelu, který chcete nasadit do koncového bodu.

Tady je příklad příkazu Rozhraní příkazového řádku služby Speech, který znovu nasadí vlastní koncový bod s novým modelem:

spx csr endpoint update --api-version v3.1 --endpoint YourEndpointId --model YourModelId

Měl by se zobrazit text odpovědi v následujícím formátu:

{
  "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/endpoints/98375aaa-40c2-42c4-b65c-f76734fc7790",
  "model": {
    "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/models/1e47c19d-12ca-4ba5-b177-9e04bd72cf98"
  },
  "links": {
    "logs": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/endpoints/98375aaa-40c2-42c4-b65c-f76734fc7790/files/logs",
    "restInteractive": "https://eastus.stt.speech.microsoft.com/speech/recognition/interactive/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "restConversation": "https://eastus.stt.speech.microsoft.com/speech/recognition/conversation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "restDictation": "https://eastus.stt.speech.microsoft.com/speech/recognition/dictation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "webSocketInteractive": "wss://eastus.stt.speech.microsoft.com/speech/recognition/interactive/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "webSocketConversation": "wss://eastus.stt.speech.microsoft.com/speech/recognition/conversation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "webSocketDictation": "wss://eastus.stt.speech.microsoft.com/speech/recognition/dictation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790"
  },
  "project": {
    "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/projects/639d5280-8995-40cc-9329-051fd0fddd46"
  },
  "properties": {
    "loggingEnabled": true
  },
  "lastActionDateTime": "2022-05-19T23:01:34Z",
  "status": "NotStarted",
  "createdDateTime": "2022-05-19T15:41:27Z",
  "locale": "en-US",
  "displayName": "My Endpoint",
  "description": "My Updated Endpoint Description"
}

V případě nápovědy k rozhraní příkazového řádku služby Speech s koncovými body spusťte následující příkaz:

spx help csr endpoint

Pokud chcete vlastní koncový bod znovu nasadit pomocí nového modelu, použijte Endpoints_Update operaci rozhraní SPEECH na textové rozhraní REST API. Sestavte tělo požadavku podle následujících pokynů:

model Nastavte vlastnost na identifikátor URI modelu, který chcete nasadit do koncového bodu.

Vytvořte požadavek HTTP PATCH pomocí identifikátoru URI, jak je znázorněno v následujícím příkladu. Nahraďte YourSubscriptionKey klíčem prostředku služby Speech, nahraďte YourServiceRegion oblastí prostředku služby Speech, nahraďte YourEndpointId ID koncového bodu a nastavte vlastnosti textu požadavku, jak jsme popsali dříve.

curl -v -X PATCH -H "Ocp-Apim-Subscription-Key: YourSubscriptionKey" -H "Content-Type: application/json" -d '{
  "model": {
    "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/models/1e47c19d-12ca-4ba5-b177-9e04bd72cf98"
  }
}'  "https://YourServiceRegion.api.cognitive.microsoft.com/speechtotext/v3.1/endpoints/YourEndpointId"

Měl by se zobrazit text odpovědi v následujícím formátu:

{
  "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/endpoints/98375aaa-40c2-42c4-b65c-f76734fc7790",
  "model": {
    "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/models/1e47c19d-12ca-4ba5-b177-9e04bd72cf98"
  },
  "links": {
    "logs": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/endpoints/98375aaa-40c2-42c4-b65c-f76734fc7790/files/logs",
    "restInteractive": "https://eastus.stt.speech.microsoft.com/speech/recognition/interactive/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "restConversation": "https://eastus.stt.speech.microsoft.com/speech/recognition/conversation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "restDictation": "https://eastus.stt.speech.microsoft.com/speech/recognition/dictation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "webSocketInteractive": "wss://eastus.stt.speech.microsoft.com/speech/recognition/interactive/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "webSocketConversation": "wss://eastus.stt.speech.microsoft.com/speech/recognition/conversation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "webSocketDictation": "wss://eastus.stt.speech.microsoft.com/speech/recognition/dictation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790"
  },
  "project": {
    "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/projects/639d5280-8995-40cc-9329-051fd0fddd46"
  },
  "properties": {
    "loggingEnabled": true
  },
  "lastActionDateTime": "2022-05-19T23:01:34Z",
  "status": "NotStarted",
  "createdDateTime": "2022-05-19T15:41:27Z",
  "locale": "en-US",
  "displayName": "My Endpoint",
  "description": "My Updated Endpoint Description"
}

Opětovné nasazení trvá několik minut. Do té doby váš koncový bod používá předchozí model bez přerušení služby.

Zobrazení dat protokolování

Protokolování dat je k dispozici pro export, pokud jste je nakonfigurovali při vytváření koncového bodu.

Stažení protokolů koncového bodu:

Přihlaste se k sadě Speech Studio.
Vyberte Custom speech> Your project name >Deploy models.
Vyberte odkaz podle názvu koncového bodu.
V části Protokolování obsahu vyberte Stáhnout protokol.

Pokud chcete získat protokoly pro koncový bod, použijte spx csr endpoint list příkaz. Parametry požadavku se sestaví podle následujících pokynů:

Nastavte požadovaný endpoint parametr na ID koncového bodu, který chcete získat protokoly.

Tady je příklad příkazu Rozhraní příkazového řádku služby Speech, který získá protokoly pro koncový bod:

spx csr endpoint list --api-version v3.1 --endpoint YourEndpointId

Umístění každého souboru protokolu s dalšími podrobnostmi se vrátí v textu odpovědi.

Pokud chcete získat protokoly pro koncový bod, začněte pomocí operace Endpoints_Get rozhraní REST API pro převod řeči na text.

Vytvořte požadavek HTTP GET pomocí identifikátoru URI, jak je znázorněno v následujícím příkladu. Nahraďte YourEndpointId ID koncového bodu, nahraďte YourSubscriptionKey klíčem prostředku služby Speech a nahraďte YourServiceRegion oblastí prostředků služby Speech.

curl -v -X GET "https://YourServiceRegion.api.cognitive.microsoft.com/speechtotext/v3.1/endpoints/YourEndpointId" -H "Ocp-Apim-Subscription-Key: YourSubscriptionKey"

Měl by se zobrazit text odpovědi v následujícím formátu:

{
  "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/endpoints/98375aaa-40c2-42c4-b65c-f76734fc7790",
  "model": {
    "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/models/1e47c19d-12ca-4ba5-b177-9e04bd72cf98"
  },
  "links": {
    "logs": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/endpoints/98375aaa-40c2-42c4-b65c-f76734fc7790/files/logs",
    "restInteractive": "https://eastus.stt.speech.microsoft.com/speech/recognition/interactive/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "restConversation": "https://eastus.stt.speech.microsoft.com/speech/recognition/conversation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "restDictation": "https://eastus.stt.speech.microsoft.com/speech/recognition/dictation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "webSocketInteractive": "wss://eastus.stt.speech.microsoft.com/speech/recognition/interactive/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "webSocketConversation": "wss://eastus.stt.speech.microsoft.com/speech/recognition/conversation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790",
    "webSocketDictation": "wss://eastus.stt.speech.microsoft.com/speech/recognition/dictation/cognitiveservices/v1?cid=98375aaa-40c2-42c4-b65c-f76734fc7790"
  },
  "project": {
    "self": "https://eastus.api.cognitive.microsoft.com/speechtotext/v3.1/projects/2f78cdb7-58ac-4bd9-9bc6-170e31483b26"
  },
  "properties": {
    "loggingEnabled": true
  },
  "lastActionDateTime": "2022-05-19T23:41:05Z",
  "status": "Succeeded",
  "createdDateTime": "2022-05-19T23:41:05Z",
  "locale": "en-US",
  "displayName": "My Endpoint",
  "description": "My Updated Endpoint Description"
}

Vytvořte požadavek HTTP GET pomocí identifikátoru URI "logs" z předchozího textu odpovědi. Nahraďte YourEndpointId ID koncového bodu, nahraďte YourSubscriptionKey klíčem prostředku služby Speech a nahraďte YourServiceRegion oblastí prostředků služby Speech.

curl -v -X GET "https://YourServiceRegion.api.cognitive.microsoft.com/speechtotext/v3.1/endpoints/YourEndpointId/files/logs" -H "Ocp-Apim-Subscription-Key: YourSubscriptionKey"

Umístění každého souboru protokolu s dalšími podrobnostmi se vrátí v textu odpovědi.

Data protokolování jsou k dispozici v úložišti vlastněných Microsoftem po dobu 30 dnů a pak se odeberou. Pokud je váš vlastní účet úložiště propojený s předplatným služeb Azure AI, data protokolování se automaticky neodstraní.

Nasazení vlastního modelu řeči

Přidání koncového bodu nasazení

Změna modelu a opětovného nasazení koncového bodu

Zobrazení dat protokolování

Další kroky

Další materiály