Bereitstellen und Ausführen von Containern in einer Azure-Containerinstanz

Mit den folgenden Schritte können Sie Anwendungen von Azure KI Services mithilfe von Azure Container Instances problemlos in der Cloud skalieren. Mithilfe von Containern können Sie sich auf die Erstellung von Anwendungen konzentrieren und müssen sich nicht um die Verwaltung der Infrastruktur kümmern. Weitere Informationen zur Verwendung von Containern finden Sie unter Features und Vorteile.

Voraussetzungen

Der Ansatz funktioniert mit jedem Container in Azure KI Services. Die Azure KI Services-Ressource muss erstellt werden, bevor Sie mit dem Ansatz beginnen. Jeder Azure KI-Dienst mit Containerunterstützung verfügt über einen Artikel mit einer Installationsanleitung, in dem die Installation und Konfiguration des Diensts für einen Container beschrieben wird. Da für einige Dienste eine Datei oder eine Gruppe von Dateien als Eingabe für den Container benötigt wird, sollten Sie unbedingt mit dem Container vertraut sein und diesen bereits erfolgreich verwendet haben, bevor Sie diese Lösung einsetzen.

• Eine Azure-Ressource für den von Ihnen verwendeten Azure KI-Dienst

• Endpunkt-URL eines Azure KI-Diensts: Lesen Sie die entsprechende Installationsanleitung Ihres Diensts für den Container, um im Azure-Portal zu ermitteln, wo sich die Endpunkt-URL befindet und wie ein korrektes Beispiel für die URL aussieht. Das genaue Format kann sich von Dienst zu Dienst unterscheiden.

• Schlüssel der Azure KI-Dienstressource: Die Schlüssel befinden sich auf der Seite Schlüssel für die Azure-Ressource. Sie benötigen nur einen der beiden Schlüssel. Der Schlüssel ist eine Zeichenfolge mit 32 alphanumerischen Zeichen.

• Ein einzelner Azure KI Services-Container auf Ihrem lokalen Host (auf Ihrem Computer). Stellen Sie sicher, dass Folgendes möglich ist:

  • Rufen Sie das Image mit einem docker pull-Befehl ab.
  • Führen Sie den lokalen Container erfolgreich mit allen erforderlichen Konfigurationseinstellungen aus, indem Sie einen docker run-Befehl verwenden.
  • Rufen Sie den Endpunkt des Containers auf, um eine HTTP 2xx-Antwort und eine JSON-Antwort zu erhalten.

Sie müssen alle Variablen in spitzen Klammern (<>) durch Ihre eigenen Werte ersetzen. Hierbei müssen auch die spitzen Klammern ersetzt werden.

Wichtig

Der LUIS-Container erfordert eine .gz-Modelldatei, die zur Laufzeit abgerufen wird. Der Container muss auf diese Modelldatei über eine Volumeeinbindung aus der Containerinstanz zugreifen können. Gehen Sie zum Hochladen einer Modelldatei wie folgt vor:

1. Erstellen Sie eine Azure-Dateifreigabe. Notieren Sie sich den Namen des Azure Storage-Kontos, den Schlüssel und den Namen der Dateifreigabe, da Sie diese Angaben später benötigen.
2. Exportieren Sie Ihr LUIS-Modell (App-Paket) über das LUIS-Portal.
3. Navigieren Sie im Azure-Portal zur Seite Übersicht Ihrer Speicherkontoressource, und wählen Sie Dateifreigaben aus.
4. Wählen Sie den Namen der kürzlich erstellten Dateifreigabe und anschließend Hochladen aus. Laden Sie dann Ihr App-Paket hoch.

Azure portal

Erstellen einer Azure Container Instances-Ressource im Azure-Portal

1. Wechseln Sie zur Seite Erstellen für Container Instances.

2. Geben Sie auf der Registerkarte Grundeinstellungen die folgenden Informationen ein:

   Einstellung	Wert
   Subscription	Wählen Sie Ihr Abonnement aus.
   Resource group	Wählen Sie die verfügbare Ressource aus, oder erstellen Sie eine neue wie z.B. cognitive-services.
   Containername	Geben Sie einen Namen ein (beispielsweise cognitive-container-instance). Der Name muss aus Kleinbuchstaben bestehen.
   Standort	Wählen Sie eine Region für die Bereitstellung aus.
   Imagetyp	Wenn Ihr Containerimage in einer Containerregistrierung gespeichert ist, die keine Anmeldeinformationen erfordert, wählen Sie Public. Wenn der Zugriff auf Ihr Containerimage Anmeldeinformationen erfordert, wählen Sie Private. Weitere Informationen darüber, ob das Containerimage Public oder Private („Öffentliche Vorschau“) ist, finden Sie unter Containerrepositorys und -images.
   Imagename	Geben Sie den Containerspeicherort für Azure KI Services ein. Der Speicherort wird als Argument für den Befehl docker pull verwendet. Die verfügbaren Imagenamen und entsprechenden Repositorys finden Sie unter Containerrepositorys und -images. Der Imagename muss vollqualifiziert sein und drei Teile angeben. Zuerst die Containerregistrierung, dann das Repository und abschließend der Imagename: <container-registry>/<repository>/<image-name>. Beispiel: mcr.microsoft.com/azure-cognitive-services/keyphrase würde das Image für die Schlüsselbegriffserkennung in der Microsoft Container Registry-Instanz unter dem Azure KI Services-Repository darstellen. Weiteres Beispiel: containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text würde das Spracherkennungs-Image im Microsoft-Repository der Container Preview-Containerregistrierung darstellen.
   Betriebssystemtyp	Linux
   Size	Ändern Sie die Größe entsprechend den vorgeschlagenen Empfehlungen für Ihren spezifischen Azure KI-Container: 2 CPU-Kerne 4 GB

3. Geben Sie auf der Registerkarte Netzwerk die folgenden Informationen ein:

   Einstellung	Wert
   Ports	Legen Sie den TCP-Port auf 5000 fest. Macht den Container an Port 5000 verfügbar.

4. Geben Sie auf der Registerkarte Erweitert die erforderlichen Umgebungsvariablen für die Abrechnungseinstellungen der Azure Container Instance-Ressource ein:

   Schlüssel	Wert
   ApiKey	Kopiert von der Seite Schlüssel und Endpunkte der Ressource. Es handelt sich um eine aus 32 alphanumerischen Zeichen bestehende Zeichenfolge ohne Leerzeichen oder Bindestriche, xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx.
   Billing	Ihre Endpunkt-URL, kopiert von der Seite Schlüssel und Endpunkte der Ressource.
   Eula	accept

5. Wählen Sie Überprüfen und erstellen aus.

6. Nachdem die Überprüfung abgeschlossen ist, klicken Sie auf Erstellen, um den Erstellungsprozess abzuschließen.

7. Nach ihrer erfolgreicher Bereitstellung ist die Ressource bereit.

BEFEHLSZEILENSCHNITTSTELLE (CLI)

Erstellen einer Azure Container Instances-Ressource über die Azure CLI

Im folgenden YAML-Code ist die Azure Container Instances-Ressource definiert. Kopieren Sie den Inhalt, und fügen Sie ihn in eine neue Datei mit dem Namen my-aci.yaml ein. Ersetzen Sie dann die kommentierten Werte durch Ihre eigenen. Gültigen YAML-Code finden Sie im Vorlagenformat. Die verfügbaren Imagenamen und entsprechenden Repositorys finden Sie unter Containerrepositorys und -images. Weitere Informationen zur YAML-Referenz für Containerinstanzen finden Sie unter YAML-Referenz: Azure Container Instances.

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

Hinweis

Nicht alle Speicherorte weisen die gleiche Verfügbarkeit von CPU und Arbeitsspeicher auf. Eine Liste der verfügbaren Ressourcen für Container nach Speicherort und Betriebssystem finden Sie in der Tabelle Speicherort und Ressourcen.

Wir verwenden die YAML-Datei, die für den Befehl az container create erstellt wurde. Führen Sie über die Azure CLI den Befehl az container create aus, und ersetzen Sie <resource-group> durch Ihre eigene Ressourcengruppe. Informationen zum Sichern der Werte in einer YAML-Bereitstellung finden Sie unter Sichere Werte.

az container create -g <resource-group> -f my-aci.yaml

Bei Gültigkeit lautet die Ausgabe des Befehls Running....Nach einiger Zeit ändert sich die Ausgabe in eine JSON-Zeichenfolge, die die neu erstellte ACI-Ressource darstellt. Das Containerimage ist höchstwahrscheinlich für eine Weile nicht verfügbar, aber die Ressource wird nun bereitgestellt.

Tipp

Achten Sie genau auf die Azure KI Services-Speicherorte in der öffentlichen Vorschau, da der YAML-Code entsprechend dem Speicherort angepasst werden muss.

Verwenden der Containerinstanz

Azure portal

1. Wählen Sie Übersicht aus, und kopieren Sie die IP-Adresse. Dies ist eine numerische IP-Adresse, z. B. 55.55.55.55.

2. Öffnen Sie eine neue Browserregisterkarte, und verwenden Sie die IP-Adresse, z. B. http://<IP-address>:5000 (http://55.55.55.55:5000). Sie sehen die Homepage des Containers und erkennen daran, dass der Container ausgeführt wird.

   

3. Wählen Sie Dienst-API-Beschreibung, um die Swagger-Seite für den Container anzuzeigen.

4. Wählen Sie eine der APIs vom Typ POST und anschließend Jetzt ausprobieren aus. Die Parameter werden angezeigt (einschließlich der Eingabe). Fügen Sie die Parameter ein.

5. Wählen Sie Ausführen, um die Anforderung an Ihre Containerinstanz zu senden.

   Sie haben erfolgreich Azure KI-Container in Azure Container Instances erstellt und verwendet.

BEFEHLSZEILENSCHNITTSTELLE (CLI)

Überprüfen auf aktive Container

Es gibt mehrere Möglichkeiten zu überprüfen, ob ein Container aktiv ist. Suchen Sie die externe IP-Adresse und den verfügbar gemachten Port des betreffenden Containers, und öffnen Sie Ihren bevorzugten Webbrowser. Verwenden Sie die folgenden verschiedenen URLs für Anforderungen, um zu überprüfen, ob der Container ausgeführt wird. Die hier aufgeführten Beispiel-URLs für Anforderungen sind http://localhost:5000, aber Ihr spezifischer Container kann variieren. Stellen Sie sicher, dass Sie sich auf die externe IP-Adresse Ihres Containers und den verfügbar gemachten Port beziehen.

Anforderungs-URL	Zweck
http://localhost:5000/	Der Container stellt eine Homepage bereit.
http://localhost:5000/ready	Diese mit GET angeforderte URL ermöglicht es, zu überprüfen, ob der Container eine Abfrage des Modells akzeptiert. Diese Anforderung kann für Live- und Bereitschaftstests von Kubernetes verwendet werden.
http://localhost:5000/status	Diese URL wird auch mit GET angefordert und überprüft, ob der zum Starten des Containers verwendete API-Schlüssel gültig ist, ohne dass eine Endpunktabfrage veranlasst wird. Diese Anforderung kann für Live- und Bereitschaftstests von Kubernetes verwendet werden.
http://localhost:5000/swagger	Der Container stellt eine umfassende Dokumentation für die Endpunkte sowie die Funktion Jetzt ausprobieren bereit. Diese Funktion ermöglicht Ihnen die Eingabe Ihrer Einstellungen in einem webbasierten HTML-Formular, sodass Sie die Abfrage ausführen können, ohne Code schreiben zu müssen. Nach der Rückgabe der Abfrage wird ein cURL-Beispielbefehl bereitgestellt, der das erforderliche Format für HTTP-Header und -Text veranschaulicht.

Hinweis

Wenn Sie den Container für die Textanalyse im Gesundheitsbereich ausführen, verwenden Sie die folgende URL, um Abfragen zu übermitteln: http://localhost:5000/text/analytics/v3.2-preview.1/entities/health