Distribuera och köra container på Azure Container-instans

Med följande steg kan du enkelt skala Azure AI-tjänstprogram i molnet med Azure Container Instances. Med containerinkapsling kan du fokusera på att skapa program i stället för att hantera infrastrukturen. Mer information om hur du använder containrar finns i funktioner och fördelar.

Förutsättningar

Receptet fungerar med valfri Azure AI-tjänstcontainer. Azure AI-tjänstresursen måste skapas innan du använder receptet. Varje Azure AI-tjänst som stöder containrar har en artikel om hur du installerar och konfigurerar tjänsten för en container. Vissa tjänster kräver en fil eller uppsättning filer som indata för containern. Det är viktigt att du förstår och har använt containern innan du använder den här lösningen.

• En Azure-resurs för den Azure AI-tjänst som du använder.

• Url för azure AI-tjänstens resursslutpunkt – granska din specifika tjänsts "Så här installerar du" för containern, för att se var slutpunkts-URL:en finns inifrån Azure Portal och hur ett korrekt exempel på URL:en ser ut. Det exakta formatet kan ändras från tjänst till tjänst.

• Resursnyckel för Azure AI-tjänsten – nycklarna finns på sidan Nycklar för Azure-resursen. Du behöver bara en av de två nycklarna. Nyckeln är en sträng med 32 alfanumeriska tecken.

• En enda Azure AI-tjänstcontainer på din lokala värd (datorn). Kontrollera att du kan:

  • Hämta avbildningen med ett docker pull kommando.
  • Kör den lokala containern med alla nödvändiga konfigurationsinställningar med ett docker run kommando.
  • Anropa containerns slutpunkt och få ett svar på HTTP 2xx och ett JSON-svar tillbaka.

Alla variabler inom vinkelparenteser, <>, måste ersättas med dina egna värden. Den här ersättningen omfattar vinkelparenteserna.

Viktigt

LUIS-containern kräver en .gz modellfil som hämtas vid körning. Containern måste kunna komma åt den här modellfilen via en volymmontering från containerinstansen. Följ dessa steg om du vill ladda upp en modellfil:

1. Skapa en Azure-filresurs. Anteckna Azure Storage-kontots namn, nyckel och filresursnamn eftersom du behöver dem senare.
2. exportera din LUIS-modell (paketerad app) från LUIS-portalen.
3. I Azure Portal går du till sidan Översikt för lagringskontoresursen och väljer Filresurser.
4. Välj filresursnamnet som du nyligen skapade och välj sedan Ladda upp. Ladda sedan upp den paketerade appen.

Azure-portalen

Skapa en Azure Container Instance-resurs med hjälp av Azure Portal

1. Gå till sidan Skapa för Container Instances.

2. Ange följande information på fliken Grundläggande inställningar:

   Inställning	Värde
   Prenumeration	Välj din prenumeration.
   Resursgrupp	Välj den tillgängliga resursgruppen eller skapa en ny, till exempel cognitive-services.
   Containerns namn	Ange ett namn, till exempel cognitive-container-instance. Namnet måste vara i nedre versaler.
   Location	Välj en region för distribution.
   Avbildningstyp	Om containeravbildningen lagras i ett containerregister som inte kräver autentiseringsuppgifter väljer du Public. Om du behöver autentiseringsuppgifter för att komma åt containeravbildningen väljer du Private. Information om huruvida containeravbildningen är Public eller Private ("offentlig förhandsversion" finns i containerlagringsplatser och avbildningar).
   Avbildningens namn	Ange containerplatsen för Azure AI-tjänster. Platsen är det som används som argument för docker pull kommandot . Se containerlagringsplatserna och avbildningarna för tillgängliga avbildningsnamn och deras motsvarande lagringsplats. Avbildningsnamnet måste vara fullständigt kvalificerat och ange tre delar. Först containerregistret, sedan lagringsplatsen, slutligen avbildningsnamnet: <container-registry>/<repository>/<image-name>. Här är ett exempel som mcr.microsoft.com/azure-cognitive-services/keyphrase representerar avbildningen extrahering av nyckelfraser i Microsoft Container Registry under Lagringsplatsen för Azure AI-tjänster. Ett annat exempel är, containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text som skulle representera tal till text-avbildningen på Microsoft-lagringsplatsen för containerregistret för förhandsversionen av containern.
   OS-typ	Linux
   Storlek	Ändra storlek till de föreslagna rekommendationerna för din specifika Azure AI-container: 2 CPU-kärnor 4 GB

3. Ange följande information på fliken Nätverk :

   Inställning	Värde
   Portar	Ange TCP-porten till 5000. Visar containern på port 5000.

4. På fliken Avancerat anger du de miljövariabler som krävs för inställningarna för containerfakturering för Azure Container Instance-resursen:

   Tangent	Värde
   ApiKey	Kopieras från sidan Nycklar och slutpunkt för resursen. Det är en sträng med 32 alfanumeriska tecken utan blanksteg eller bindestreck, xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx.
   Billing	Slutpunkts-URL:en kopieras från sidan Nycklar och slutpunkt för resursen.
   Eula	accept

5. Välj Granska och skapa

6. När valideringen har godkänts klickar du på Skapa för att slutföra skapandeprocessen

7. När resursen har distribuerats är den klar

CLI

Skapa en Azure Container Instance-resurs från Azure CLI

YAML nedan definierar Azure Container Instance-resursen. Kopiera och klistra in innehållet i en ny fil med namnet my-aci.yaml och ersätt de kommenterade värdena med dina egna. Se mallformatet för giltig YAML. Se containerlagringsplatserna och avbildningarna för tillgängliga avbildningsnamn och deras motsvarande lagringsplats. Mer information om YAML-referensen för containerinstanser finns i YAML-referens: Azure Container Instances.

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

Anteckning

Alla platser har inte samma processor- och minnestillgänglighet. Se tabellen plats och resurser för en lista över tillgängliga resurser för containrar per plats och operativsystem.

Vi förlitar oss på YAML-filen som vi skapade för az container create kommandot. Från Azure CLI kör az container create du kommandot som ersätter <resource-group> med ditt eget. För att skydda värden i en YAML-distribution kan du dessutom referera till säkra värden.

az container create -g <resource-group> -f my-aci.yaml

Kommandots utdata är Running... giltiga, efter en stund ändras utdata till en JSON-sträng som representerar den nyligen skapade ACI-resursen. Containeravbildningen är förmodligen inte tillgänglig på ett tag, men resursen har nu distribuerats.

Tips

Var uppmärksam på platserna för Azure AI-tjänster i den offentliga förhandsversionen, eftersom YAML måste justeras för att matcha platsen.

Använda containerinstansen

Azure-portalen

1. Välj Översikt och kopiera IP-adressen. Det blir en numerisk IP-adress, till exempel 55.55.55.55.

2. Öppna en ny webbläsarflik och använd IP-adressen, till exempel http://<IP-address>:5000 (http://55.55.55.55:5000). Du ser containerns startsida så att du vet att containern körs.

   

3. Välj Beskrivning av tjänst-API för att visa swagger-sidan för containern.

4. Välj något av POST-API :erna och välj Prova. Parametrarna visas inklusive indata. Fyll i parametrarna.

5. Välj Kör för att skicka begäran till containerinstansen.

   Du har skapat och använt Azure AI-containrar i Azure Container Instance.

CLI

Verifiera att en container körs

Det finns flera sätt att verifiera att containern körs. Leta upp den externa IP-adressen och den exponerade porten för containern i fråga och öppna din favoritwebbläsare. Använd de olika begärande-URL:erna som följer för att verifiera att containern körs. Url:erna för exempelbegäran som anges här är http://localhost:5000, men din specifika container kan variera. Se till att förlita dig på containerns externa IP-adress och exponerade port.

URL för begäran	Syfte
http://localhost:5000/	Containern tillhandahåller en startsida.
http://localhost:5000/ready	Den här URL:en begärs med GET och ger en verifiering av att containern är redo att acceptera en fråga mot modellen. Den här begäran kan användas för Kubernetes liveness och beredskapsavsökningar.
http://localhost:5000/status	Den här URL:en begärs också med GET och kontrollerar om api-nyckeln som används för att starta containern är giltig utan att orsaka en slutpunktsfråga. Den här begäran kan användas för Kubernetes liveness och beredskapsavsökningar.
http://localhost:5000/swagger	Containern tillhandahåller en fullständig uppsättning dokumentation för slutpunkterna samt en Prova-funktion. Med den här funktionen kan du ange inställningarna i ett webbaserat HTML-formulär och göra frågan utan att behöva skriva någon kod. När frågan har returnerats tillhandahålls ett exempel på CURL-kommando för att demonstrera de HTTP-huvuden och brödtextformat som krävs.

Anteckning

Om du kör Textanalys för hälsocontainern använder du följande URL för att skicka frågor:http://localhost:5000/text/analytics/v3.2-preview.1/entities/health