Konfigurieren von Containern für den Speech-Dienst
Mit Speech-Containern können Kunden eine Speech-basierte Anwendungsarchitektur erstellen, die sowohl von widerstandsfähigen Cloudfunktionen als auch von der Edgeposition profitieren kann.
Die Runtimeumgebung für Speech-Container wird über die Argumente des Befehls docker run konfiguriert. Für diesen Container gibt es einige erforderliche und optionale Einstellungen. Die containerspezifischen Einstellungen sind die für die Abrechnung.
Konfigurationseinstellungen
Der Container hat die folgenden Konfigurationseinstellungen:
| Erforderlich | Einstellung | Zweck |
|---|---|---|
| Ja | ApiKey | Nachverfolgen von Abrechnungsinformationen |
| Nein | ApplicationInsights | Ermöglicht das Hinzufügen von Unterstützung für Azure Application Insights-Telemetriedaten in Ihrem Container. |
| Ja | Abrechnung | Gibt den Endpunkt-URI der Dienstressource in Azure an. |
| Ja | Eula | Gibt an, dass Sie die Lizenz für den Container akzeptiert haben. |
| Nein | Fluentd | Schreibt Protokoll- und optional auch Metrikdaten auf einen Fluentd-Server. |
| Nein | HTTP-Proxy | Konfiguriert einen HTTP-Proxy für ausgehende Anforderungen. |
| Nein | Logging | Bietet Unterstützung für die ASP.NET Core-Protokollierung für Ihren Container. |
| Nein | Mounts | Liest und schreibt Daten vom Hostcomputer in den Container und umgekehrt. |
Wichtig
Die Einstellungen ApiKey, Billing und Eula werden gemeinsam verwendet, und Sie müssen gültige Werte für alle drei angeben, da der Container andernfalls nicht startet. Weitere Informationen zum Instanziieren eines Containers mithilfe dieser Konfigurationseinstellungen finden Sie unter Abrechnung.
Konfigurationseinstellung „ApiKey“
Die ApiKey-Einstellung gibt den Schlüssel der Azure-Ressourcen an, mit dem die Abrechnungsinformationen für den Container verfolgt werden. Sie müssen einen Wert für „ApiKey“ angeben. Bei diesem Wert muss es sich um einen gültigen Schlüssel für die Speech-Ressource handeln, die für die Konfigurationseinstellung Billing angegeben wurde.
Diese Einstellung finden Sie hier:
- Azure-Portal: Speech-Ressourcenverwaltung (unter Schlüssel)
ApplicationInsights-Einstellung
Die ApplicationInsights-Einstellung ermöglicht das Hinzufügen von Unterstützung für Azure Application Insights-Telemetriedaten in Ihrem Container. Application Insights ermöglicht eine tief greifende Überwachung Ihrer Container. Sie können ganz einfach die Verfügbarkeit, Leistung und Nutzung Ihrer Container überwachen. Außerdem können Sie schnell Fehler in Ihrem Container erkennen und diagnostizieren.
In der folgenden Tabelle werden die Konfigurationseinstellungen beschrieben, die unter dem Abschnitt ApplicationInsights unterstützt werden.
| Erforderlich | Name | Datentyp | BESCHREIBUNG |
|---|---|---|---|
| Nein | InstrumentationKey |
String | Der Instrumentierungsschlüssel der Application Insights-Instanz, an die Telemetriedaten für den Container gesendet werden. Weitere Informationen finden Sie unter Application Insights für ASP.NET Core. Beispiel: InstrumentationKey=123456789 |
Konfigurationseinstellung „Billing“
Die Einstellung Billing gibt den Endpunkt-URI der Speech-Ressource in Azure an, der zum Messen der Abrechnungsinformationen für den Container verwendet wird. Sie müssen einen Wert für diese Konfigurationseinstellung angeben, und bei dem Wert muss es sich um einen gültigen URI-Endpunkt für eine Speech-Ressource in Azure handeln. Der Container meldet die Nutzung etwa alle 10 bis 15 Minuten.
Diese Einstellung finden Sie hier:
- Azure-Portal: beschrifteter
Endpointauf der Übersichtsseite Sprache
| Erforderlich | Name | Datentyp | Beschreibung |
|---|---|---|---|
| Ja | Billing |
String | URI des Abrechnungsendpunkts. Weitere Informationen zum Erhalt eines Abrechnungs-URI finden Sie unter Billing (Abrechnung). Weitere Informationen und eine vollständige Liste mit regionalen Endpunkten finden Sie unter Benutzerdefinierte Unterdomänennamen für Azure KI Services. |
Eula-Einstellung
Die Eula-Einstellung gibt an, dass Sie die Lizenz für den Container akzeptiert haben. Sie müssen einen Wert für diese Konfigurationseinstellung angeben, und der Wert muss auf accept festgelegt werden.
| Erforderlich | Name | Datentyp | Beschreibung |
|---|---|---|---|
| Ja | Eula |
String | Zustimmung zur Lizenz Beispiel: Eula=accept |
Azure KI Services-Container werden im Rahmen Ihres Vertrags lizenziert, der Ihre Nutzung von Azure regelt. Wenn Sie über keine Vereinbarung zur Nutzung von Azure verfügen, bestätigen Sie, dass Ihre Vereinbarung zur Nutzung von Azure der Microsoft Online-Abonnementvertrag ist, der die Nutzungsbedingungen für Onlinedienste umfasst. Für Vorschauversionen stimmen Sie auch den ergänzenden Nutzungsbedingungen für Microsoft Azure-Vorschauversionen zu. Durch die Nutzung von Containern stimmen Sie diesen Bedingungen zu.
Fluentd-Einstellungen
Fluentd ist ein Open-Source-Datensammler für die einheitliche Protokollierung. Die Fluentd-Einstellungen verwalten die Verbindung des Containers mit einem Fluentd-Server. Der Container enthält einen Fluentd-Protokollanbieter, der es Ihrem Container ermöglicht, Protokolldaten (und optional auch Metrikdaten) auf einen Fluentd-Server zu schreiben.
In der folgenden Tabelle werden die Konfigurationseinstellungen beschrieben, die unter dem Abschnitt Fluentd unterstützt werden.
| Name | Datentyp | Beschreibung |
|---|---|---|
Host |
String | Die IP-Adresse oder der DNS-Hostname des Fluentd-Servers. |
Port |
Integer | Der Port des Fluentd-Servers. Standardwert: 24224 |
HeartbeatMs |
Integer | Das Heartbeatintervall in Millisekunden. Wurde bis zum Ablauf dieses Intervalls kein Ereignisdatenverkehr gesendet, wird ein Heartbeat an den Fluentd-Server gesendet. Standardwert: 60.000 Millisekunden (eine Minute) |
SendBufferSize |
Integer | Der für Sendevorgänge zugeordnete Netzwerkpufferspeicher (in Byte). Standardwert: 32.768 Byte (32 KB) |
TlsConnectionEstablishmentTimeoutMs |
Integer | Das Timeout (in Millisekunden) für die Herstellung einer SSL/TLS-Verbindung mit dem Fluentd-Server. Der Standardwert beträgt 10.000 Millisekunden (zehn Sekunden). Wenn UseTLS auf FALSE festgelegt ist, wird dieser Wert ignoriert. |
UseTLS |
Boolean | Gibt an, ob der Container für die Kommunikation mit dem Fluentd-Server SSL/TLS verwenden soll. Der Standardwert ist „FALSE“. |
Anmeldeinformationseinstellungen für HTTP-Proxy
Wenn Sie einen HTTP-Proxy für ausgehende Anforderungen konfigurieren müssen, verwenden Sie diese zwei Argumente:
| Name | Datentyp | BESCHREIBUNG |
|---|---|---|
| HTTP_PROXY | string | Der zu verwendende Proxy, z. B. http://proxy:8888.<proxy-url> |
| HTTP_PROXY_CREDS | Zeichenfolge | Beliebige Anmeldeinformationen, die zur Authentifizierung bei dem Proxy erforderlich sind, z. B. username:password. Dieser Wert muss in Kleinbuchstaben eingegeben werden. |
<proxy-user> |
string | Der Benutzer für den Proxy. |
<proxy-password> |
string | Das Kennwort, das dem <proxy-user> für den Proxy zugeordnet ist. |
docker run --rm -it -p 5000:5000 \
--memory 2g --cpus 1 \
--mount type=bind,src=/home/azureuser/output,target=/output \
<registry-location>/<image-name> \
Eula=accept \
Billing=<endpoint> \
ApiKey=<api-key> \
HTTP_PROXY=<proxy-url> \
HTTP_PROXY_CREDS=<proxy-user>:<proxy-password> \
Logging-Einstellungen
Die Logging-Einstellungen dienen zur Verwaltung der ASP.NET Core-Protokollierungsunterstützung für Ihren Container. Sie können für Ihren Container die gleichen Konfigurationseinstellungen und Werte verwenden wie für eine ASP.NET Core-Anwendung.
Der Container unterstützt folgende Protokollanbieter:
| Anbieter | Zweck |
|---|---|
| Konsole | Der ASP.NET Core-Protokollierungsanbieter Console. Alle ASP.NET Core-Konfigurationseinstellungen und Standardwerte für diesen Protokollanbieter werden unterstützt. |
| Debuggen | Der ASP.NET Core-Protokollierungsanbieter Debug. Alle ASP.NET Core-Konfigurationseinstellungen und Standardwerte für diesen Protokollanbieter werden unterstützt. |
| Datenträger | Der JSON-Protokollanbieter. Dieser Protokollanbieter schreibt Protokolldaten in die Ausgabeeinbindung. |
Dieser Containerbefehl speichert Protokollierungsinformationen im JSON-Format für die Ausgabeeinbindung:
docker run --rm -it -p 5000:5000 \
--memory 2g --cpus 1 \
--mount type=bind,src=/home/azureuser/output,target=/output \
<registry-location>/<image-name> \
Eula=accept \
Billing=<endpoint> \
ApiKey=<api-key> \
Logging:Disk:Format=json \
Mounts:Output=/output
Dieser Containerbefehl zeigt Debuginformationen an, denen dbug vorangestellt ist, während der Container ausgeführt wird:
docker run --rm -it -p 5000:5000 \
--memory 2g --cpus 1 \
<registry-location>/<image-name> \
Eula=accept \
Billing=<endpoint> \
ApiKey=<api-key> \
Logging:Console:LogLevel:Default=Debug
Datenträgerprotokollierung
Der Protokollanbieter Disk unterstützt folgende Konfigurationseinstellungen:
| Name | Datentyp | Beschreibung |
|---|---|---|
Format |
String | Das Ausgabeformat für Protokolldateien. Hinweis: Dieser Wert muss auf json festgelegt werden, um den Protokollanbieter zu aktivieren. Wenn dieser Wert bei der Containerinstanziierung angegeben wird, ohne eine Ausgabeeinbindung anzugeben, tritt ein Fehler auf. |
MaxFileSize |
Integer | Die maximale Größe einer Protokolldatei (in MB). Wenn die Größe der aktuellen Protokolldatei diesen Wert erreicht oder übersteigt, wird vom Protokollanbieter eine neue Protokolldatei erstellt. Bei Angabe von „-1“ wird die Größe der Protokolldatei nur durch die maximal zulässige Dateigröße für die Ausgabeeinbindung begrenzt (sofern vorhanden). Der Standardwert ist 1. |
Weitere Informationen zum Konfigurieren der ASP.NET Core-Protokollierungsunterstützung finden Sie unter Protokollierung in ASP.NET Core.
Einbindungseinstellungen
Verwenden Sie Bindungsbereitstellungen zum Lesen und Schreiben von Daten im Container. Sie können eine Eingabe- oder Ausgabebereitstellung über die Option --mount im Befehl docker run angeben.
Die Speech-Standardcontainer verwenden keine Eingabe- oder Ausgabeeinbindungen zum Speichern von Trainings- oder Dienstdaten. Benutzerdefinierte Speech-Container basieren jedoch auf Volumebereitstellungen.
Die genaue Syntax für den Bereitstellungspunkt auf dem Host variiert je nach Betriebssystem des Hosts. Darüber hinaus ist es eventuell nicht möglich, auf den Bereitstellungspunkt auf dem Hostcomputer zuzugreifen, wenn ein Konflikt zwischen den vom Docker-Dienstkonto verwendeten Berechtigungen und den für den Bereitstellungspunkt auf dem Host verwendeten Berechtigungen besteht.
| Optional | Name | Datentyp | BESCHREIBUNG |
|---|---|---|---|
| Nicht zulässig | Input |
String | Dies wird von Speech-Standardcontainern nicht verwendet. Benutzerdefinierte Speech-Container verwenden Volumebereitstellungen. |
| Optional | Output |
String | Das Ziel der Ausgabeeinbindung. Standardwert: /output. Dies ist der Speicherort der Protokolle. Beinhaltet Containerprotokolle. Beispiel: --mount type=bind,src=c:\output,target=/output |
Einstellungen für Volumebereitstellungen
Die benutzerdefinierten Speech-Container verwenden Volumebereitstellungen, um benutzerdefinierte Modelle beizubehalten. Sie können eine Volumebereitstellung angeben, indem Sie dem Befehl docker run die Option -v (oder --volume) hinzufügen.
Hinweis
Die Einstellungen der Volumeeinbindung gelten nur für die Container der benutzerdefinierten Spracherkennung.
Benutzerdefinierte Modelle werden bei der erstmaligen Erfassung eines neuen Modells als Teil des Befehls docker run für den benutzerdefinierten Speech-Container heruntergeladen. Bei nachfolgenden Ausführungen derselben ModelId für einen benutzerdefinierten Speech-Container wird das zuvor heruntergeladene Modell verwendet. Wenn keine Volumeeinbindung vorhanden ist, können benutzerdefinierte Modelle nicht dauerhaft gespeichert werden.
Die Einstellung für die Volumebereitstellung besteht aus drei durch Doppelpunkte (:) voneinander getrennten Feldern:
- Das erste Feld ist der Name des Volumes auf dem Hostcomputer, z. B. C:\input.
- Das zweite Feld ist das Verzeichnis im Container, z. B. /usr/local/models.
- Das dritte (optionale) Feld ist eine durch Kommas getrennte Liste von Optionen. Weitere Informationen finden Sie unter Verwenden von Volumes.
Im folgenden Beispiel für eine Volumeeinbindung wird das Verzeichnis C:\input vom Hostcomputer in das Verzeichnis /usr/local/models des Containers eingebunden.
-v C:\input:/usr/local/models
Nächste Schritte
- Weitere Informationen finden Sie unter Installieren und Ausführen von Containern.