Distribuera och köra container i Azure Container Instances

Med följande steg kan du enkelt skala Azure AI-tjänstprogram i molnet med Azure Container Instances. Med containerinkapsling kan du fokusera på att skapa program i stället för att hantera infrastrukturen. Mer information om hur du använder containrar finns i funktioner och fördelar.

Förutsättningar

Receptet fungerar med valfri Azure AI-tjänstcontainer. Azure AI-tjänstresursen måste skapas innan du använder receptet. Varje Azure AI-tjänst som stöder containrar har en artikel om hur du installerar för att installera och konfigurera tjänsten för en container. Vissa tjänster kräver en fil eller uppsättning filer som indata för containern. Det är viktigt att du förstår och har använt containern innan du använder den här lösningen.

• En Azure-resurs för den Azure AI-tjänst som du använder.

• Url för azure AI-tjänstens resursslutpunkt – granska din specifika tjänsts "Så här installerar du" för containern, för att se var slutpunkts-URL:en finns inifrån Azure Portal och hur ett korrekt exempel på URL:en ser ut. Det exakta formatet kan ändras från tjänst till tjänst.

• Resursnyckel för Azure AI-tjänsten – nycklarna finns på sidan Nycklar för Azure-resursen. Du behöver bara en av de två nycklarna. Nyckeln är en sträng med 32 alfanumeriska tecken.

• En enda Azure AI-tjänstcontainer på din lokala värd (din dator). Kontrollera att du kan:

  • Hämta avbildningen med ett docker pull kommando.
  • Kör den lokala containern med alla nödvändiga konfigurationsinställningar med ett docker run kommando.
  • Anropa containerns slutpunkt och få ett svar från HTTP 2xx och ett JSON-svar tillbaka.

Alla variabler inom vinkelparenteser, <>, måste ersättas med dina egna värden. Den här ersättningen omfattar vinkelparenteserna.

Viktigt!

LUIS-containern kräver en .gz modellfil som hämtas vid körning. Containern måste kunna komma åt den här modellfilen via en volymmontering från containerinstansen. Följ dessa steg för att ladda upp en modellfil:

1. Skapa en Azure-filresurs. Anteckna Azure Storage-kontots namn, nyckel och filresursnamn eftersom du behöver dem senare.
2. exportera LUIS-modellen (paketerad app) från LUIS-portalen.
3. I Azure Portal går du till sidan Översikt för lagringskontoresursen och väljer Filresurser.
4. Välj det filresursnamn som du nyss skapade och välj sedan Ladda upp. Ladda sedan upp din paketerade app.

Azure-portalen

Skapa en Azure Container Instance-resurs med hjälp av Azure Portal

1. Gå till sidan Skapa för containerinstanser.

2. Ange följande information på fliken Grundläggande :

   Inställning	Värde
   Prenumeration	Välj din prenumeration.
   Resursgrupp	Välj den tillgängliga resursgruppen eller skapa en ny, till exempel cognitive-services.
   Containerns namn	Ange ett namn som cognitive-container-instance. Namnet måste vara i nedre versaler.
   Plats	Välj en region för distribution.
   Bildtyp	Om containeravbildningen lagras i ett containerregister som inte kräver autentiseringsuppgifter väljer du Public. Om du behöver autentiseringsuppgifter för att komma åt containeravbildningen väljer du Private. Se containerlagringsplatser och avbildningar för mer information om huruvida containeravbildningen är Public eller Private ("Offentlig förhandsversion").
   Avbildningens namn	Ange containerplatsen för Azure AI-tjänster. Platsen är det som används som ett argument för docker pull kommandot. Se containerlagringsplatserna och avbildningarna för tillgängliga avbildningsnamn och deras motsvarande lagringsplats. Avbildningsnamnet måste vara fullständigt kvalificerat och ange tre delar. Först containerregistret, sedan lagringsplatsen, slutligen avbildningsnamnet: <container-registry>/<repository>/<image-name>. Här är ett exempel som mcr.microsoft.com/azure-cognitive-services/keyphrase representerar avbildningen extrahering av nyckelfraser i Microsoft Container Registry under Azure AI-tjänstlagringsplatsen. Ett annat exempel är, containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text som skulle representera tal till text-avbildningen på Microsoft-lagringsplatsen i containerregistret Container Preview.
   OS-typ	Linux
   Storlek	Ändra storlek till de föreslagna rekommendationerna för din specifika Azure AI-container: 2 CPU-kärnor 4 GB

3. Ange följande information på fliken Nätverk :

   Inställning	Värde
   Hamnar	Ange TCP-porten till 5000. Exponerar containern på port 5000.

4. På fliken Avancerat anger du de miljövariabler som krävs för containerfaktureringsinställningarna för Azure Container Instance-resursen:

   Tangent	Värde
   ApiKey	Kopierade från sidan Nycklar och slutpunkt för resursen. Det är en 32 alfanumerisk sträng utan blanksteg eller bindestreck, xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx.
   Billing	Slutpunkts-URL:en kopieras från sidan Nycklar och slutpunkt för resursen.
   Eula	accept

5. Välj Granska och skapa

6. När verifieringen har godkänts klickar du på Skapa för att slutföra skapandeprocessen

7. När resursen har distribuerats är den klar

CLI

Skapa en Azure Container Instance-resurs från Azure CLI

YAML nedan definierar Azure Container Instance-resursen. Kopiera och klistra in innehållet i en ny fil med namnet my-aci.yaml och ersätt de kommenterade värdena med dina egna. Se mallformatet för giltig YAML. Se containerlagringsplatserna och avbildningarna för tillgängliga avbildningsnamn och deras motsvarande lagringsplats. Mer information om YAML-referensen för containerinstanser finns i YAML-referens: Azure Container Instances.

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

Kommentar

Alla platser har inte samma processor- och minnestillgänglighet. I tabellen plats och resurser finns en lista över tillgängliga resurser för containrar per plats och operativsystem.

Vi förlitar oss på YAML-filen som vi skapade för az container create kommandot. Från Azure CLI kör az container create du kommandot som <resource-group> ersätter med ditt eget. För att skydda värden i en YAML-distribution kan du dessutom referera till säkra värden.

az container create -g <resource-group> -f my-aci.yaml

Utdata från kommandot är Running... om giltiga, efter någon gång ändras utdata till en JSON-sträng som representerar den nyligen skapade ACI-resursen. Containeravbildningen är troligen inte tillgänglig på ett tag, men resursen har nu distribuerats.

Dricks

Var uppmärksam på platserna för Azure AI-tjänster i offentlig förhandsversion, eftersom YAML måste justeras i enlighet med detta för att matcha platsen.

Använda containerinstansen

Azure-portalen

1. Välj Översikt och kopiera IP-adressen. Det blir en numerisk IP-adress, till exempel 55.55.55.55.

2. Öppna en ny webbläsarflik och använd IP-adressen, till exempel http://<IP-address>:5000 (http://55.55.55.55:5000). Du ser containerns startsida så att du vet att containern körs.

   

3. Välj Beskrivning av tjänst-API för att visa swagger-sidan för containern.

4. Välj någon av POST-API :erna och välj Prova. Parametrarna visas inklusive indata. Fyll i parametrarna.

5. Välj Kör för att skicka begäran till containerinstansen.

   Du har skapat och använt Azure AI-containrar i Azure Container Instance.

CLI

Verifiera att en container körs

Det finns flera sätt att verifiera att containern körs. Leta upp den externa IP-adressen och den exponerade porten för containern i fråga och öppna din favoritwebbläsare. Använd de olika url:er för begäranden som följer för att verifiera att containern körs. Exempelbegärande-URL:er som anges här är http://localhost:5000, men din specifika container kan variera. Se till att förlita dig på containerns externa IP-adress och exponerade port.

Begärans-URL	Syfte
http://localhost:5000/	Containern tillhandahåller en startsida.
http://localhost:5000/ready	Den här URL:en begärs med GET och tillhandahåller en verifiering av att containern är redo att acceptera en fråga mot modellen. Den här begäran kan användas för Kubernetes liveness- och beredskapsavsökningar.
http://localhost:5000/status	Den här URL:en begärs också med GET och kontrollerar om api-nyckeln som används för att starta containern är giltig utan att orsaka en slutpunktsfråga. Den här begäran kan användas för Kubernetes liveness- och beredskapsavsökningar.
http://localhost:5000/swagger	Containern tillhandahåller en fullständig uppsättning dokumentation för slutpunkterna samt en Prova-funktion. Med den här funktionen kan du ange inställningarna i ett webbaserat HTML-formulär och göra frågan utan att behöva skriva någon kod. När frågan har returnerats tillhandahålls ett exempel på CURL-kommandot för att demonstrera de HTTP-huvuden och brödtextformat som krävs.

Kommentar

Om du kör Textanalys för hälsocontainern använder du följande URL för att skicka frågor:http://localhost:5000/text/analytics/v3.2-preview.1/entities/health