Konfigurieren von Containern für den Speech-Dienst

Mit Speech-Containern können Kunden eine Speech-basierte Anwendungsarchitektur erstellen, die sowohl von widerstandsfähigen Cloudfunktionen als auch von der Edgeposition profitieren kann.

Die Runtimeumgebung für Speech-Container wird über die Argumente des Befehls docker run konfiguriert. Für diesen Container gibt es einige erforderliche und optionale Einstellungen. Die containerspezifischen Einstellungen sind die für die Abrechnung.

Konfigurationseinstellungen

Der Container hat die folgenden Konfigurationseinstellungen:

Erforderlich Einstellung Zweck
Ja ApiKey Nachverfolgen von Abrechnungsinformationen
Nein ApplicationInsights Ermöglicht das Hinzufügen von Unterstützung für Azure Application Insights-Telemetriedaten in Ihrem Container.
Ja Abrechnung Gibt den Endpunkt-URI der Dienstressource in Azure an.
Ja Eula Gibt an, dass Sie die Lizenz für den Container akzeptiert haben.
Nein Fluentd Schreibt Protokoll- und optional auch Metrikdaten auf einen Fluentd-Server.
Nein HTTP-Proxy Konfiguriert einen HTTP-Proxy für ausgehende Anforderungen.
Nein Logging Bietet Unterstützung für die ASP.NET Core-Protokollierung für Ihren Container.
Nein Mounts Liest und schreibt Daten vom Hostcomputer in den Container und umgekehrt.

Wichtig

Die Einstellungen ApiKey, Billing und Eula werden gemeinsam verwendet, und Sie müssen gültige Werte für alle drei angeben, da der Container andernfalls nicht startet. Weitere Informationen zum Instanziieren eines Containers mithilfe dieser Konfigurationseinstellungen finden Sie unter Abrechnung.

Konfigurationseinstellung „ApiKey“

Die ApiKey-Einstellung gibt den Schlüssel der Azure-Ressourcen an, mit dem die Abrechnungsinformationen für den Container verfolgt werden. Sie müssen einen Wert für „ApiKey“ angeben. Bei diesem Wert muss es sich um einen gültigen Schlüssel für die Speech-Ressource handeln, die für die Konfigurationseinstellung Billing angegeben wurde.

Diese Einstellung finden Sie hier:

  • Azure-Portal: Speech-Ressourcenverwaltung (unter Schlüssel)

ApplicationInsights-Einstellung

Die ApplicationInsights-Einstellung ermöglicht das Hinzufügen von Unterstützung für Azure Application Insights-Telemetriedaten in Ihrem Container. Application Insights ermöglicht eine tief greifende Überwachung Ihrer Container. Sie können ganz einfach die Verfügbarkeit, Leistung und Nutzung Ihrer Container überwachen. Außerdem können Sie schnell Fehler in Ihrem Container erkennen und diagnostizieren.

In der folgenden Tabelle werden die Konfigurationseinstellungen beschrieben, die unter dem Abschnitt ApplicationInsights unterstützt werden.

Erforderlich Name Datentyp BESCHREIBUNG
Nein InstrumentationKey String Der Instrumentierungsschlüssel der Application Insights-Instanz, an die Telemetriedaten für den Container gesendet werden. Weitere Informationen finden Sie unter Application Insights für ASP.NET Core.

Beispiel:
InstrumentationKey=123456789

Konfigurationseinstellung „Billing“

Die Einstellung Billing gibt den Endpunkt-URI der Speech-Ressource in Azure an, der zum Messen der Abrechnungsinformationen für den Container verwendet wird. Sie müssen einen Wert für diese Konfigurationseinstellung angeben, und bei dem Wert muss es sich um einen gültigen URI-Endpunkt für eine Speech-Ressource in Azure handeln. Der Container meldet die Nutzung etwa alle 10 bis 15 Minuten.

Diese Einstellung finden Sie hier:

  • Azure-Portal: beschrifteter Endpoint auf der Übersichtsseite Sprache
Erforderlich Name Datentyp Beschreibung
Ja Billing String URI des Abrechnungsendpunkts. Weitere Informationen zum Erhalt eines Abrechnungs-URI finden Sie unter Billing (Abrechnung). Weitere Informationen und eine vollständige Liste mit regionalen Endpunkten finden Sie unter Benutzerdefinierte Unterdomänennamen für Azure KI Services.

Eula-Einstellung

Die Eula-Einstellung gibt an, dass Sie die Lizenz für den Container akzeptiert haben. Sie müssen einen Wert für diese Konfigurationseinstellung angeben, und der Wert muss auf accept festgelegt werden.

Erforderlich Name Datentyp Beschreibung
Ja Eula String Zustimmung zur Lizenz

Beispiel:
Eula=accept

Azure KI Services-Container werden im Rahmen Ihres Vertrags lizenziert, der Ihre Nutzung von Azure regelt. Wenn Sie über keine Vereinbarung zur Nutzung von Azure verfügen, bestätigen Sie, dass Ihre Vereinbarung zur Nutzung von Azure der Microsoft Online-Abonnementvertrag ist, der die Nutzungsbedingungen für Onlinedienste umfasst. Für Vorschauversionen stimmen Sie auch den ergänzenden Nutzungsbedingungen für Microsoft Azure-Vorschauversionen zu. Durch die Nutzung von Containern stimmen Sie diesen Bedingungen zu.

Fluentd-Einstellungen

Fluentd ist ein Open-Source-Datensammler für die einheitliche Protokollierung. Die Fluentd-Einstellungen verwalten die Verbindung des Containers mit einem Fluentd-Server. Der Container enthält einen Fluentd-Protokollanbieter, der es Ihrem Container ermöglicht, Protokolldaten (und optional auch Metrikdaten) auf einen Fluentd-Server zu schreiben.

In der folgenden Tabelle werden die Konfigurationseinstellungen beschrieben, die unter dem Abschnitt Fluentd unterstützt werden.

Name Datentyp Beschreibung
Host String Die IP-Adresse oder der DNS-Hostname des Fluentd-Servers.
Port Integer Der Port des Fluentd-Servers.
Standardwert: 24224
HeartbeatMs Integer Das Heartbeatintervall in Millisekunden. Wurde bis zum Ablauf dieses Intervalls kein Ereignisdatenverkehr gesendet, wird ein Heartbeat an den Fluentd-Server gesendet. Standardwert: 60.000 Millisekunden (eine Minute)
SendBufferSize Integer Der für Sendevorgänge zugeordnete Netzwerkpufferspeicher (in Byte). Standardwert: 32.768 Byte (32 KB)
TlsConnectionEstablishmentTimeoutMs Integer Das Timeout (in Millisekunden) für die Herstellung einer SSL/TLS-Verbindung mit dem Fluentd-Server. Der Standardwert beträgt 10.000 Millisekunden (zehn Sekunden).
Wenn UseTLS auf FALSE festgelegt ist, wird dieser Wert ignoriert.
UseTLS Boolean Gibt an, ob der Container für die Kommunikation mit dem Fluentd-Server SSL/TLS verwenden soll. Der Standardwert ist „FALSE“.

Anmeldeinformationseinstellungen für HTTP-Proxy

Wenn Sie einen HTTP-Proxy für ausgehende Anforderungen konfigurieren müssen, verwenden Sie diese zwei Argumente:

Name Datentyp BESCHREIBUNG
HTTP_PROXY string Der zu verwendende Proxy, z. B. http://proxy:8888.
<proxy-url>
HTTP_PROXY_CREDS Zeichenfolge Beliebige Anmeldeinformationen, die zur Authentifizierung bei dem Proxy erforderlich sind, z. B. username:password. Dieser Wert muss in Kleinbuchstaben eingegeben werden.
<proxy-user> string Der Benutzer für den Proxy.
<proxy-password> string Das Kennwort, das dem <proxy-user> für den Proxy zugeordnet ist.
docker run --rm -it -p 5000:5000 \
--memory 2g --cpus 1 \
--mount type=bind,src=/home/azureuser/output,target=/output \
<registry-location>/<image-name> \
Eula=accept \
Billing=<endpoint> \
ApiKey=<api-key> \
HTTP_PROXY=<proxy-url> \
HTTP_PROXY_CREDS=<proxy-user>:<proxy-password> \

Logging-Einstellungen

Die Logging-Einstellungen dienen zur Verwaltung der ASP.NET Core-Protokollierungsunterstützung für Ihren Container. Sie können für Ihren Container die gleichen Konfigurationseinstellungen und Werte verwenden wie für eine ASP.NET Core-Anwendung.

Der Container unterstützt folgende Protokollanbieter:

Anbieter Zweck
Konsole Der ASP.NET Core-Protokollierungsanbieter Console. Alle ASP.NET Core-Konfigurationseinstellungen und Standardwerte für diesen Protokollanbieter werden unterstützt.
Debuggen Der ASP.NET Core-Protokollierungsanbieter Debug. Alle ASP.NET Core-Konfigurationseinstellungen und Standardwerte für diesen Protokollanbieter werden unterstützt.
Datenträger Der JSON-Protokollanbieter. Dieser Protokollanbieter schreibt Protokolldaten in die Ausgabeeinbindung.

Dieser Containerbefehl speichert Protokollierungsinformationen im JSON-Format für die Ausgabeeinbindung:

docker run --rm -it -p 5000:5000 \
--memory 2g --cpus 1 \
--mount type=bind,src=/home/azureuser/output,target=/output \
<registry-location>/<image-name> \
Eula=accept \
Billing=<endpoint> \
ApiKey=<api-key> \
Logging:Disk:Format=json \
Mounts:Output=/output

Dieser Containerbefehl zeigt Debuginformationen an, denen dbug vorangestellt ist, während der Container ausgeführt wird:

docker run --rm -it -p 5000:5000 \
--memory 2g --cpus 1 \
<registry-location>/<image-name> \
Eula=accept \
Billing=<endpoint> \
ApiKey=<api-key> \
Logging:Console:LogLevel:Default=Debug

Datenträgerprotokollierung

Der Protokollanbieter Disk unterstützt folgende Konfigurationseinstellungen:

Name Datentyp Beschreibung
Format String Das Ausgabeformat für Protokolldateien.
Hinweis: Dieser Wert muss auf json festgelegt werden, um den Protokollanbieter zu aktivieren. Wenn dieser Wert bei der Containerinstanziierung angegeben wird, ohne eine Ausgabeeinbindung anzugeben, tritt ein Fehler auf.
MaxFileSize Integer Die maximale Größe einer Protokolldatei (in MB). Wenn die Größe der aktuellen Protokolldatei diesen Wert erreicht oder übersteigt, wird vom Protokollanbieter eine neue Protokolldatei erstellt. Bei Angabe von „-1“ wird die Größe der Protokolldatei nur durch die maximal zulässige Dateigröße für die Ausgabeeinbindung begrenzt (sofern vorhanden). Der Standardwert ist 1.

Weitere Informationen zum Konfigurieren der ASP.NET Core-Protokollierungsunterstützung finden Sie unter Protokollierung in ASP.NET Core.

Einbindungseinstellungen

Verwenden Sie Bindungsbereitstellungen zum Lesen und Schreiben von Daten im Container. Sie können eine Eingabe- oder Ausgabebereitstellung über die Option --mount im Befehl docker run angeben.

Die Speech-Standardcontainer verwenden keine Eingabe- oder Ausgabeeinbindungen zum Speichern von Trainings- oder Dienstdaten. Benutzerdefinierte Speech-Container basieren jedoch auf Volumebereitstellungen.

Die genaue Syntax für den Bereitstellungspunkt auf dem Host variiert je nach Betriebssystem des Hosts. Darüber hinaus ist es eventuell nicht möglich, auf den Bereitstellungspunkt auf dem Hostcomputer zuzugreifen, wenn ein Konflikt zwischen den vom Docker-Dienstkonto verwendeten Berechtigungen und den für den Bereitstellungspunkt auf dem Host verwendeten Berechtigungen besteht.

Optional Name Datentyp BESCHREIBUNG
Nicht zulässig Input String Dies wird von Speech-Standardcontainern nicht verwendet. Benutzerdefinierte Speech-Container verwenden Volumebereitstellungen.
Optional Output String Das Ziel der Ausgabeeinbindung. Standardwert: /output. Dies ist der Speicherort der Protokolle. Beinhaltet Containerprotokolle.

Beispiel:
--mount type=bind,src=c:\output,target=/output

Einstellungen für Volumebereitstellungen

Die benutzerdefinierten Speech-Container verwenden Volumebereitstellungen, um benutzerdefinierte Modelle beizubehalten. Sie können eine Volumebereitstellung angeben, indem Sie dem Befehl docker run die Option -v (oder --volume) hinzufügen.

Hinweis

Die Einstellungen der Volumeeinbindung gelten nur für die Container der benutzerdefinierten Spracherkennung.

Benutzerdefinierte Modelle werden bei der erstmaligen Erfassung eines neuen Modells als Teil des Befehls docker run für den benutzerdefinierten Speech-Container heruntergeladen. Bei nachfolgenden Ausführungen derselben ModelId für einen benutzerdefinierten Speech-Container wird das zuvor heruntergeladene Modell verwendet. Wenn keine Volumeeinbindung vorhanden ist, können benutzerdefinierte Modelle nicht dauerhaft gespeichert werden.

Die Einstellung für die Volumebereitstellung besteht aus drei durch Doppelpunkte (:) voneinander getrennten Feldern:

  1. Das erste Feld ist der Name des Volumes auf dem Hostcomputer, z. B. C:\input.
  2. Das zweite Feld ist das Verzeichnis im Container, z. B. /usr/local/models.
  3. Das dritte (optionale) Feld ist eine durch Kommas getrennte Liste von Optionen. Weitere Informationen finden Sie unter Verwenden von Volumes.

Im folgenden Beispiel für eine Volumeeinbindung wird das Verzeichnis C:\input vom Hostcomputer in das Verzeichnis /usr/local/models des Containers eingebunden.

-v C:\input:/usr/local/models

Nächste Schritte