Konfigurera Speech-tjänstcontainrar

  • Artikel

Talcontainrar gör det möjligt för kunder att skapa en talprogramarkitektur som är optimerad för att dra nytta av både robusta molnfunktioner och gränslokalitet.

Körningsmiljön för Speech-containern konfigureras med hjälp av kommandoargumenten docker run . Den här containern har vissa obligatoriska och valfria inställningar. De containerspecifika inställningarna är faktureringsinställningarna.

Konfigurationsinställningar

Containern har följande konfigurationsinställningar:

Obligatoriskt Inställning Syfte
Ja ApiKey Spårar faktureringsinformation.
Nej ApplicationInsights Gör det möjligt att lägga till telemetristöd för Azure Application Insights i containern.
Ja Billing Anger slutpunkts-URI för tjänstresursen i Azure.
Ja Eula Anger att du har godkänt licensen för containern.
Nej Fluentd Skriver logg och, om du vill, måttdata till en Fluentd-server.
Nej HTTP-proxy Konfigurerar en HTTP-proxy för att göra utgående begäranden.
Nej Loggning Tillhandahåller ASP.NET Core-loggningsstöd för din container.
Nej Fästen Läser och skriver data från värddatorn till containern och från containern tillbaka till värddatorn.

Viktigt!

ApiKeyInställningarna , Billingoch Eula används tillsammans och du måste ange giltiga värden för alla tre. Annars startar inte containern. Mer information om hur du använder dessa konfigurationsinställningar för att instansiera en container finns i Fakturering.

Konfigurationsinställning för ApiKey

Inställningen ApiKey anger den Azure-resursnyckel som används för att spåra faktureringsinformation för containern. Du måste ange ett värde för ApiKey och värdet måste vara en giltig nyckel för den Speech-resurs som angetts för konfigurationsinställningen Billing .

Den här inställningen finns på följande plats:

  • Azure-portalen: Hantering av talresurser under Nycklar

ApplicationInsights-inställning

Med ApplicationInsights inställningen kan du lägga till telemetristöd för Azure Application Insights i containern. Application Insights ger djupgående övervakning av din container. Du kan enkelt övervaka din container för tillgänglighet, prestanda och användning. Du kan också snabbt identifiera och diagnostisera fel i containern.

I följande tabell beskrivs de konfigurationsinställningar som stöds i avsnittet ApplicationInsights .

Obligatoriskt Name Datatyp beskrivning
Nej InstrumentationKey String Instrumentationsnyckeln för Application Insights-instansen som telemetridata för containern skickas till. Mer information finns i Application Insights för ASP.NET Core.

Exempel:
InstrumentationKey=123456789

Konfigurationsinställning för fakturering

Inställningen Billing anger slutpunkts-URI för Speech-resurseni Azure som används för att mäta faktureringsinformation för containern. Du måste ange ett värde för den här konfigurationsinställningen och värdet måste vara en giltig slutpunkts-URI för en Speech-resurs i Azure. Containern rapporterar användning var 10:e till 15:e minut.

Den här inställningen finns på följande plats:

  • Azure-portalen: Märkt på översiktssidan Endpoint för Speech
Obligatoriskt Name Datatyp beskrivning
Ja Billing String URI för faktureringsslutpunkt. Mer information om hur du hämtar fakturerings-URI finns i fakturering. Mer information och en fullständig lista över regionala slutpunkter finns i Anpassade underdomännamn för Azure AI-tjänster.

Eula-inställning

Inställningen Eula anger att du har godkänt licensen för containern. Du måste ange ett värde för den här konfigurationsinställningen och värdet måste vara inställt på accept.

Obligatoriskt Name Datatyp beskrivning
Ja Eula String Godkännande av licens

Exempel:
Eula=accept

Azure AI-tjänstcontainrar licensieras enligt ditt avtal som styr din användning av Azure. Om du inte har ett befintligt avtal som styr din användning av Azure godkänner du att ditt avtal som styr användningen av Azure är Microsoft Online-prenumerationsavtalet, som innehåller villkoren för onlinetjänster. För förhandsversioner godkänner du även de kompletterande användningsvillkoren för Förhandsversioner av Microsoft Azure. Genom att använda containern godkänner du dessa villkor.

Inställningar för Fluentd

Fluentd är en datainsamlare med öppen källkod för enhetlig loggning. Fluentd Inställningarna hanterar containerns anslutning till en Fluentd-server. Containern innehåller en Fluentd-loggningsprovider som gör att din container kan skriva loggar och, om du vill, mätdata till en Fluentd-server.

I följande tabell beskrivs de konfigurationsinställningar som stöds i avsnittet Fluentd .

Name Datatyp beskrivning
Host String IP-adressen eller DNS-värdnamnet för Fluentd-servern.
Port Integer Porten för Fluentd-servern.
Standardvärdet är 24224.
HeartbeatMs Integer Pulsslagsintervallet i millisekunder. Om ingen händelsetrafik har skickats innan det här intervallet upphör att gälla skickas ett pulsslag till Fluentd-servern. Standardvärdet är 6 0000 millisekunder (1 minut).
SendBufferSize Integer Nätverksbuffertutrymmet, i byte, allokerat för sändningsåtgärder. Standardvärdet är 32 768 byte (32 kilobyte).
TlsConnectionEstablishmentTimeoutMs Integer Tidsgränsen i millisekunder för att upprätta en SSL/TLS-anslutning med Fluentd-servern. Standardvärdet är 1 0000 millisekunder (10 sekunder).
Om UseTLS värdet är inställt på false ignoreras det här värdet.
UseTLS Booleskt Anger om containern ska använda SSL/TLS för kommunikation med Fluentd-servern. Standardvärdet är "false".

Inställningar för HTTP-proxyautentiseringsuppgifter

Om du behöver konfigurera en HTTP-proxy för att göra utgående begäranden använder du följande två argument:

Name Datatyp beskrivning
HTTP_PROXY sträng Proxyn som ska användas, till exempel http://proxy:8888
<proxy-url>
HTTP_PROXY_CREDS sträng Eventuella autentiseringsuppgifter som krävs för att autentisera mot proxyn, username:passwordtill exempel . Det här värdet måste vara i gemener.
<proxy-user> sträng Användaren för proxyn.
<proxy-password> sträng Lösenordet som är associerat med <proxy-user> för proxyn. 
docker run --rm -it -p 5000:5000 \
--memory 2g --cpus 1 \
--mount type=bind,src=/home/azureuser/output,target=/output \
<registry-location>/<image-name> \
Eula=accept \
Billing=<endpoint> \
ApiKey=<api-key> \
HTTP_PROXY=<proxy-url> \
HTTP_PROXY_CREDS=<proxy-user>:<proxy-password> \

Loggningsinställningar

Logging Inställningarna hanterar ASP.NET Core-loggningsstöd för din container. Du kan använda samma konfigurationsinställningar och värden för din container som du använder för ett ASP.NET Core-program.

Följande loggningsproviders stöds av containern:

Provider Syfte
Konsol ASP.NET Core-loggningsprovidern Console . Alla ASP.NET Core-konfigurationsinställningar och standardvärden för den här loggningsprovidern stöds.
Debug ASP.NET Core-loggningsprovidern Debug . Alla ASP.NET Core-konfigurationsinställningar och standardvärden för den här loggningsprovidern stöds.
Disk JSON-loggningsprovidern. Den här loggningsprovidern skriver loggdata till utdatamonteringen.

Det här containerkommandot lagrar loggningsinformation i JSON-format till utdatamonteringen:

docker run --rm -it -p 5000:5000 \
--memory 2g --cpus 1 \
--mount type=bind,src=/home/azureuser/output,target=/output \
<registry-location>/<image-name> \
Eula=accept \
Billing=<endpoint> \
ApiKey=<api-key> \
Logging:Disk:Format=json \
Mounts:Output=/output

Det här containerkommandot visar felsökningsinformation, prefixet med dbug, medan containern körs:

docker run --rm -it -p 5000:5000 \
--memory 2g --cpus 1 \
<registry-location>/<image-name> \
Eula=accept \
Billing=<endpoint> \
ApiKey=<api-key> \
Logging:Console:LogLevel:Default=Debug

Diskloggning

Loggningsprovidern Disk stöder följande konfigurationsinställningar:

Name Datatyp beskrivning
Format String Utdataformatet för loggfiler.
Obs! Det här värdet måste anges för att json aktivera loggningsprovidern. Om det här värdet anges utan att ange en utdatamontering vid instansiering av en container uppstår ett fel.
MaxFileSize Integer Den maximala storleken i mb för en loggfil. När storleken på den aktuella loggfilen uppfyller eller överskrider det här värdet startas en ny loggfil av loggningsprovidern. Om -1 anges begränsas loggfilens storlek endast av den maximala filstorleken, om någon, för utdatamonteringen. Standardvärdet är 1.

Mer information om hur du konfigurerar ASP.NET Core-loggningsstöd finns i Inställningar filkonfiguration.

Monteringsinställningar

Använd bindningsmonteringar för att läsa och skriva data till och från containern. Du kan ange en indatamontering eller utdatamontering genom att --mount ange alternativet i kommandot docker run .

Standard Speech-containrarna använder inte indata- eller utdatamonteringar för att lagra tränings- eller tjänstdata. Anpassade talcontainrar förlitar sig dock på volymmonteringar.

Den exakta syntaxen för värdmonteringsplatsen varierar beroende på värdoperativsystemet. Dessutom kanske värddatorns monteringsplats inte är tillgänglig på grund av en konflikt mellan behörigheter som används av Docker-tjänstkontot och värdmonteringsplatsbehörigheterna.

Valfritt Name Datatyp beskrivning
Tillåts inte Input String Standard Speech-containrar använder inte detta. Anpassade talcontainrar använder volymmonteringar.
Valfritt Output String Målet för utdatamonteringen. Standardvärdet är /output. Det här är platsen för loggarna. Detta inkluderar containerloggar.

Exempel:
--mount type=bind,src=c:\output,target=/output

Inställningar för volymmontering

De anpassade talcontainrarna använder volymmonteringar för att bevara anpassade modeller. Du kan ange en volymmontering genom att lägga till -v alternativet (eller --volume) i docker-körningskommandot.

Kommentar

Volymmonteringsinställningarna gäller endast för anpassade tal till textcontainrar .

Anpassade modeller laddas ned första gången som en ny modell matas in som en del av kommandot för den anpassade talcontainern docker run . Sekventiella körningar av samma ModelId för en anpassad talcontainer använder den tidigare nedladdade modellen. Om volymmonteringen inte tillhandahålls kan anpassade modeller inte sparas.

Inställningen för volymmontering består av tre färgavgränsade : fält:

  1. Det första fältet är namnet på volymen på värddatorn, till exempel C:\input.
  2. Det andra fältet är katalogen i containern, till exempel /usr/local/models.
  3. Det tredje fältet (valfritt) är en kommaavgränsad lista med alternativ. Mer information finns i använda volymer.

Här är ett exempel på volymmontering som monterar värddatorn C:\input-katalogen till katalogen containers /usr/local/models .

-v C:\input:/usr/local/models

Nästa steg