Déployer et exécuter des conteneurs sur une instance de conteneur Azure

Les étapes suivantes permettent de mettre facilement à l’échelle des applications Azure AI services dans le cloud avec Azure Container Instances. La conteneurisation vous aide à vous concentrer sur la création de vos applications au lieu de gérer l’infrastructure. Pour plus d’informations sur l’utilisation de conteneurs, voir Fonctionnalités et avantages.

Prérequis

La recette fonctionne avec tous les conteneurs Azure AI services. Vous devez créer la ressource Azure AI services avant d’utiliser la recette. Chaque service Azure AI qui prend en charge les conteneurs dispose d’un article « Procédure d’installation » qui vous explique comment installer et configurer le service pour un conteneur. Certains services nécessitant un fichier ou un ensemble de fichiers en entrée pour le conteneur, avant d’utiliser cette solution, il est important d’avoir compris le fonctionnement du conteneur et de l’avoir déjà utilisé avec succès.

• Une ressource Azure pour le service Azure AI que vous utilisez.

• URL de point de terminaison de ressource de service Azure AI : examinez la « Procédure d’installation » du conteneur propre à votre service, de façon à trouver l’emplacement de l’URL du point de terminaison sur le Portail Azure ainsi qu’un exemple approprié de présentation de l’URL. Le format exact peut changer d’un service à l’autre.

• Clé de ressource de service Azure AI : les clés se trouvent dans la page Clés de la ressource Azure. Vous avez seulement besoin d’une des deux clés. La clé est une chaîne de 32 caractères alphanumériques.

• Un conteneur Azure AI services unique sur votre hôte local (votre ordinateur). Vérifiez que vous pouvez :

  • Extraire l’image à l’aide d’une commande docker pull.
  • Exécuter correctement le conteneur local avec tous les paramètres de configuration nécessaires à l’aide d’une commande docker run.
  • Appeler le point de terminaison du conteneur, pour obtenir une réponse de HTTP 2xx et une réponse JSON en retour.

Toutes les variables entre chevrons, <>, doivent être remplacées par vos propres valeurs. Ce remplacement inclut les chevrons.

Important

Le conteneur LUIS requiert un fichier de modèle .gz extrait au moment du runtime. Le conteneur doit être en mesure d’accéder à ce fichier de modèle via un montage de volume à partir de l’instance de conteneur. Pour charger un fichier de modèle, procédez comme suit :

1. Créez un partage de fichiers Azure. Notez le nom du compte de stockage Azure, la clé et le nom du partage de fichiers, car vous en aurez besoin plus tard.
2. Exportez votre modèle LUIS (application empaquetée) à partir du portail LUIS.
3. Dans le portail Azure, accédez à la page Vue d’ensemble de la ressource de votre compte de stockage et sélectionnez Partages de fichiers.
4. Sélectionnez le nom du partage de fichiers que vous avez créé récemment, puis sélectionnez Charger. Chargez ensuite votre application empaquetée.

Azure portal

Création d’une ressource Azure Container Instances avec le Portail Azure

1. Accédez à la page Créer de Container Instances.

2. Sous l’onglet De base, entrez les informations suivantes :

   Paramètre	Valeur
   Abonnement	Sélectionnez votre abonnement.
   Resource group	Sélectionnez le groupe de ressources disponible ou créez-en un tel que cognitive-services.
   Nom du conteneur	Entrez un nom tel que cognitive-container-instance. Ce nom doit être en minuscules.
   Emplacement	Sélectionnez une région pour le déploiement.
   Type d’image	Si votre image de conteneur est stockée dans un registre de conteneurs qui ne nécessite pas d’informations d’identification, sélectionnez Public. Si l’accès à votre image conteneur nécessite des informations d’identification, choisissez Private. Reportez-vous aux référentiels de conteneurs et aux images conteneur pour savoir si l’image conteneur est Public ou Private (« Préversion publique »).
   Nom de l’image	Entrez l’emplacement du conteneur Azure AI services. L’emplacement est utilisé comme argument de la commande docker pull. Reportez-vous à Référentiels et images de conteneur pour les noms d’image disponibles et leur référentiel correspondant. Le nom d’image doit être complet, c’est-à-dire se composer de trois parties. Tout d’abord, le registre de conteneurs, puis le référentiel et enfin le nom de l’image : <container-registry>/<repository>/<image-name>. Voici un exemple : mcr.microsoft.com/azure-cognitive-services/keyphrase représenterait l’image de l’extraction de phrases clés dans le registre de conteneurs Microsoft sous le référentiel Azure AI services. Un autre exemple est containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text qui représenterait l’image Reconnaissance vocale dans le référentiel Microsoft du registre des conteneurs en préversion.
   Type de système d’exploitation	Linux
   Taille	Appliquez les suggestions de taille pour votre conteneur Azure AI spécifique : 2 cœurs de processeur 4 Go

3. Sur l’onglet Mise en réseau, entrez les informations suivantes :

   Paramètre	Valeur
   Ports	Définissez le port TCP sur 5000. Expose le conteneur sur le port 5000.

4. Sous l’onglet Avancé, entrez les Variables d’environnement exigées pour les paramètres de facturation du conteneur de la ressource Azure Container Instance :

   Clé	Valeur
   ApiKey	Copiée sur la page Clés et point de terminaison de la ressource. Il s’agit d’une chaîne de 32 caractères alphanumériques sans espaces ni tirets, xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx.
   Billing	URL du point de terminaison copiée sur la page Clés et point de terminaison de la ressource.
   Eula	accept

5. Sélectionnez Examiner et créer

6. Une fois la validation réussie, cliquez sur Créer pour terminer le processus de création

7. Lorsque la ressource est déployée avec succès, elle est prête

INTERFACE DE LIGNE DE COMMANDE

Créer une ressource d’instance de conteneur Azure depuis Azure CLI

Le YAML ci-dessous définit la ressource Azure Container Instance. Copiez et collez le contenu dans un nouveau fichier nommé my-aci.yaml, et remplacez les valeurs commentés par les vôtres. Reportez-vous au format de modèle pour obtenir du YAML valide. Reportez-vous à Référentiels et images de conteneur pour les noms d’image disponibles et leur référentiel correspondant. Pour plus d’informations sur la référence YAML pour les instances de conteneur, consultez Référence YAML : Azure Container Instances.

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

Notes

Tous les emplacements n’ont pas les mêmes offres de processeur et de mémoire disponibles. Reportez-vous au tableau Emplacement et ressources pour obtenir la liste des ressources disponibles pour les conteneurs par emplacement et par système d’exploitation.

Nous allons nous reposer sur le fichier YAML que nous avons créé pour la commande az container create. À partir de l’interface CLI, exécutez la commande az container create en remplaçant le <resource-group> par le vôtre. En outre, pour la sécurisation des valeurs au sein d’un déploiement YAML, consultez Valeurs sécurisées.

az container create -g <resource-group> -f my-aci.yaml

La sortie de la commande est Running... si valide. Un peu après, la sortie devient une chaîne JSON représentant la ressource ACI nouvellement créée. L’image de conteneur ne sera probablement pas accessible pendant un certain temps, mais la ressource est maintenant déployée.

Conseil

Prêtez attention aux emplacements des services Azure AI en préversion publique, car le YAML devra être ajusté en conséquence pour correspondre à l’emplacement.

Utiliser l’instance de conteneur

Azure portal

1. Sélectionnez Vue d’ensemble et copiez l’adresse IP. Il s’agit d’une adresse IP numérique telle que 55.55.55.55.

2. Ouvrez un nouvel onglet de navigateur et utilisez l’adresse IP, par exemple, http://<IP-address>:5000 (http://55.55.55.55:5000). La page d’accueil du conteneur s’affiche en vous informant que le conteneur est en cours d’exécution.

   

3. Sélectionnez Description de l’API de service pour afficher la page swagger pour le conteneur.

4. Sélectionnez l’une des API POST, puis sélectionnez Essayer. Les paramètres s’affichent, y compris l’entrée. Complétez les paramètres.

5. Sélectionnez Exécuter pour envoyer la demande à votre instance de conteneur.

   Vous êtes parvenu à créer et utiliser des conteneurs Azure AI dans une instance de conteneur Azure.

INTERFACE DE LIGNE DE COMMANDE

Valider l’exécution d’un conteneur

Il existe plusieurs façons de confirmer que le conteneur s’exécute. Recherchez l’adresse IP externe et le port exposé du conteneur en question, puis ouvrez le navigateur web de votre choix. Utilisez les différentes URL de requête suivantes pour vérifier que le conteneur est en cours d’exécution. Les exemples d’URL de requête listés ici sont http://localhost:5000, mais votre conteneur spécifique peut varier. Veillez à vous fier à l’adresse IP externe de votre conteneur et au port exposé.

URL de la demande	Objectif
http://localhost:5000/	Le conteneur fournit une page d’accueil.
http://localhost:5000/ready	Demandée avec la fonction d’extraction, cette URL permet de vérifier que le conteneur est prêt à accepter une requête sur le modèle. Cette requête peut être utilisée pour les probes liveness et readiness de Kubernetes.
http://localhost:5000/status	Également demandée avec la fonction d’extraction, cette URL permet de vérifier si la clé API servant à démarrer le conteneur est valide sans provoquer de requête de point de terminaison. Cette requête peut être utilisée pour les probes liveness et readiness de Kubernetes.
http://localhost:5000/swagger	Le conteneur fournit un ensemble complet de documentation pour les points de terminaison et une fonctionnalité Essayer. Avec cette fonctionnalité, vous pouvez entrer vos paramètres dans un formulaire HTML basé sur le web, et constituer la requête sans avoir à écrire du code. Une fois la requête retournée, un exemple de commande CURL est fourni pour illustrer les en-têtes HTTP, et le format du corps qui est nécessaire.

Notes

Si vous exécutez l’analyse de texte pour le conteneur d’intégrité, utilisez l’URL suivante pour envoyer des requêtes : http://localhost:5000/text/analytics/v3.2-preview.1/entities/health