Container implementeren en uitvoeren in Azure Container Instance

Artikel
06/13/2024

Met de volgende stappen kunt u azure AI-servicestoepassingen in de cloud eenvoudig schalen met Azure Container Instances. Containerisatie helpt u om u te richten op het bouwen van uw toepassingen in plaats van op het beheren van de infrastructuur. Zie functies en voordelen voor meer informatie over het gebruik van containers.

Vereisten

Het recept werkt met elke Azure AI-servicescontainer. De Azure AI-servicesresource moet worden gemaakt voordat u het recept gebruikt. Elke Azure AI-service die containers ondersteunt, bevat een artikel over het installeren en configureren van de service voor een container. Voor sommige services is een bestand of set bestanden vereist als invoer voor de container. Het is belangrijk dat u de container begrijpt en met succes hebt gebruikt voordat u deze oplossing gebruikt.

Een Azure-resource voor de Azure AI-service die u gebruikt.
Eindpunt-URL voor Azure AI-serviceresource: bekijk de url 'Installeren' van uw specifieke service voor de container, om te bepalen waar de eindpunt-URL zich bevindt in Azure Portal en hoe een correct voorbeeld van de URL eruitziet. De exacte indeling kan veranderen van service naar service.
Azure AI-serviceresourcesleutel : de sleutels bevinden zich op de pagina Sleutels voor de Azure-resource. U hebt slechts één van de twee sleutels nodig. De sleutel is een tekenreeks van 32 alfanumerieke tekens.
Eén Azure AI Services-container op uw lokale host (uw computer). Zorg ervoor dat u het volgende kunt doen:
- Haal de installatiekopie op met een docker pull opdracht.
- Voer de lokale container uit met alle vereiste configuratie-instellingen met een docker run opdracht.
- Roep het eindpunt van de container aan en krijg een antwoord van HTTP 2xx en een JSON-antwoord terug.

Alle variabelen tussen punthaken, <>moeten worden vervangen door uw eigen waarden. Deze vervanging omvat de punthaken.

Belangrijk

De LUIS-container vereist een .gz modelbestand dat tijdens runtime wordt opgehaald. De container moet toegang hebben tot dit modelbestand via een volumekoppeling van de containerinstantie. Voer de volgende stappen uit om een modelbestand te uploaden:

Maak een Azure-bestandsshare. Noteer de naam, sleutel en bestandssharenaam van het Azure Storage-account, aangezien u deze later nodig hebt.
exporteer uw LUIS-model (verpakte app) vanuit de LUIS-portal.
Navigeer in Azure Portal naar de pagina Overzicht van uw opslagaccountresource en selecteer Bestandsshares.
Selecteer de naam van de bestandsshare die u onlangs hebt gemaakt en selecteer vervolgens Uploaden. Upload vervolgens uw verpakte app.

Azure-portal
CLI

Een Azure Container Instance-resource maken met behulp van Azure Portal

Ga naar de pagina Maken voor Container Instances.

Voer op het tabblad Basisinformatie de volgende details in:

Instelling	Weergegeven als
Abonnement	Selecteer uw abonnement.
Resourcegroep	Selecteer de beschikbare resourcegroep of maak een nieuwe, zoals `cognitive-services`.
Containernaam	Voer een naam in, zoals `cognitive-container-instance`. De naam moet in kleine letters staan.
Locatie	Selecteer een regio voor implementatie.
Afbeeldingstype	Als uw containerinstallatiekopieën zijn opgeslagen in een containerregister waarvoor geen referenties zijn vereist, kiest u `Public`. Als voor toegang tot de containerinstallatiekopieën referenties zijn vereist, kiest u `Private`. Raadpleeg containeropslagplaatsen en -installatiekopieën voor meer informatie over of de containerinstallatiekopieën wel of niet openbaar zijn`Public`.`Private`
Naam van installatiekopie	Voer de containerlocatie voor Azure AI-services in. De locatie is wat wordt gebruikt als argument voor de `docker pull` opdracht. Raadpleeg de containeropslagplaatsen en -installatiekopieën voor de beschikbare namen van installatiekopieën en de bijbehorende opslagplaats. De naam van de installatiekopieën moet volledig gekwalificeerd zijn, waarbij drie onderdelen worden opgegeven. Eerst het containerregister, vervolgens de opslagplaats, ten slotte de naam van de installatiekopieën: `<container-registry>/<repository>/<image-name>`. Hier volgt een voorbeeld: `mcr.microsoft.com/azure-cognitive-services/keyphrase` vertegenwoordigt de installatiekopie sleuteltermextractie in Microsoft Container Registry onder de Opslagplaats van Azure AI-services. Een ander voorbeeld is: `containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text` de spraak-naar-tekstafbeelding in de Microsoft-opslagplaats van het Container Preview-containerregister.
Type besturingssysteem	`Linux`
Tekengrootte	Wijzig de grootte van de voorgestelde aanbevelingen voor uw specifieke Azure AI-container: 2 CPU-kernen 4 GB

Voer op het tabblad Netwerken de volgende gegevens in:

Instelling Weergegeven als

Poorten Stel de TCP-poort in op 5000. De container wordt weergegeven op poort 5000.

Instelling	Weergegeven als
Poorten	Stel de TCP-poort in op `5000`. De container wordt weergegeven op poort 5000.

Voer op het tabblad Geavanceerd de vereiste omgevingsvariabelen in voor de factureringsinstellingen voor containers van de Azure Container Instance-resource:

Sleutel	Weergegeven als
`ApiKey`	Gekopieerd van de pagina Sleutels en eindpunt van de resource. Het is een tekenreeks van 32 alfanumerieke tekens zonder spaties of streepjes. `xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx`
`Billing`	De eindpunt-URL die is gekopieerd van de pagina Sleutels en het eindpunt van de resource.
`Eula`	`accept`

Beoordelen en maken selecteren
Nadat de validatie is geslaagd, klikt u op Maken om het aanmaakproces te voltooien
Wanneer de resource is geïmplementeerd, is deze gereed

Een Azure Container Instance-resource maken vanuit de Azure CLI

De YAML hieronder definieert de Azure Container Instance-resource. Kopieer en plak de inhoud in een nieuw bestand met de naam my-aci.yaml en vervang de waarden met opmerkingen door uw eigen waarden. Raadpleeg de sjabloonindeling voor geldige YAML. Raadpleeg de containeropslagplaatsen en -installatiekopieën voor de beschikbare namen van installatiekopieën en de bijbehorende opslagplaats. Zie YAML-naslaginformatie voor containerinstanties voor meer informatie over de YAML-verwijzing: Azure Container Instances.

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

Notitie

Niet alle locaties hebben dezelfde CPU- en geheugen-beschikbaarheid. Raadpleeg de tabel locatie en resources voor de lijst met beschikbare resources voor containers per locatie en besturingssysteem.

We zijn afhankelijk van het YAML-bestand dat we voor de az container create opdracht hebben gemaakt. Voer vanuit de Azure CLI de az container create opdracht uit die u <resource-group> vervangt door uw eigen opdracht. Voor het beveiligen van waarden in een YAML-implementatie verwijst u bovendien naar beveiligde waarden.

az container create -g <resource-group> -f my-aci.yaml

De uitvoer van de opdracht is Running... indien geldig, na enige tijd wordt de uitvoer gewijzigd in een JSON-tekenreeks die de zojuist gemaakte ACI-resource vertegenwoordigt. De containerinstallatiekopie is waarschijnlijk langer niet beschikbaar, maar de resource wordt nu geïmplementeerd.

Tip

Let goed op de locaties van Azure AI-services in openbare preview, omdat de YAML dienovereenkomstig moet worden aangepast aan de locatie.

Selecteer het overzicht en kopieer het IP-adres. Het is een numeriek IP-adres, zoals 55.55.55.55.
Open een nieuw browsertabblad en gebruik het IP-adres, bijvoorbeeld http://<IP-address>:5000 (http://55.55.55.55:5000). U ziet de startpagina van de container, zodat u weet dat de container wordt uitgevoerd.
Selecteer Service-API-beschrijving om de swagger-pagina voor de container weer te geven.
Selecteer een van de POST-API's en selecteer Uitproberen. De parameters worden weergegeven, inclusief de invoer. Vul de parameters in.
Selecteer Uitvoeren om de aanvraag naar uw containerinstantie te verzenden.

U hebt Azure AI-containers gemaakt en gebruikt in Azure Container Instance.

Controleren of een container wordt uitgevoerd

Er zijn verschillende manieren om te controleren of de container wordt uitgevoerd. Zoek het externe IP-adres en de weergegeven poort van de betreffende container en open uw favoriete webbrowser. Gebruik de verschillende aanvraag-URL's die volgen om te controleren of de container wordt uitgevoerd. De hier vermelde voorbeeldaanvraag-URL's zijn http://localhost:5000, maar uw specifieke container kan variëren. Zorg ervoor dat u vertrouwt op het externe IP-adres van uw container en de weergegeven poort.

Aanvraag-URL	Doel
`http://localhost:5000/`	De container bevat een startpagina.
`http://localhost:5000/ready`	Aangevraagd met GET biedt deze URL een verificatie dat de container gereed is voor het accepteren van een query voor het model. Deze aanvraag kan worden gebruikt voor Kubernetes-liveness - en gereedheidstests.
`http://localhost:5000/status`	Deze URL wordt ook aangevraagd met GET en controleert of de API-sleutel die wordt gebruikt om de container te starten, geldig is zonder een eindpuntquery te veroorzaken. Deze aanvraag kan worden gebruikt voor Kubernetes-liveness - en gereedheidstests.
`http://localhost:5000/swagger`	De container bevat een volledige set met documentatie voor de eindpunten en een functie Uitproberen. Met deze functie kunt u uw instellingen invoeren in een HTML-webformulier en de query maken zonder dat u code hoeft te schrijven. Nadat de query is geretourneerd, wordt er een voorbeeld van een CURL-opdracht gegeven om de HTTP-headers en de hoofdtekstindeling te demonstreren die vereist is.

Startpagina van container