Comment déployer un modèle AutoML sur un point de terminaison en ligne

S’APPLIQUE À :Extension Azure CLI v2 (actuelle)Kit de développement logiciel (SDK) Python azure-ai-ml v2 (version actuelle)

Dans cet article, vous découvrez comment déployer un modèle Machine Learning formé par AutoML sur un point de terminaison d’inférence en temps réel en ligne. Le Machine Learning automatisé, également appelé ML automatisé ou AutoML, est le processus d’automatisation des tâches fastidieuses et itératives de développement d’un modèle Machine Learning. Pour plus d’informations, consultez Qu’est-ce que le Machine Learning automatisé (AutoML) ?

Dans les sections suivantes, vous allez apprendre à déployer le modèle Machine Learning formé AutoML sur des points de terminaison en ligne à l’aide de :

• Azure Machine Learning Studio
• CLI Azure Machine Learning v2
• Kit SDK Python Azure Machine Learning v2

Prérequis

• Modèle Machine Learning formé par AutoML. Pour plus d’informations, consultez Tutoriel : entraîner un modèle de classification avec AutoML sans code ou Tutoriel : prévoir la demande avec le Machine Learning automatisé sans code.

Effectuer le déploiement à partir d’Azure Machine Learning studio et sans code

Le déploiement d’un modèle formé par AutoML à partir de la page ML automatisé est une expérience sans code. Cela signifie que vous n’avez pas besoin de préparer de script ni un environnement de scoring, car les deux sont générés automatiquement.

1. Dans Azure Machine Learning Studio, accédez à la page Machine Learning automatisé.

2. Sélectionnez et exécutez votre expérience.

3. Choisissez l’onglet Modèles + travaux enfants.

4. Sélectionnez le modèle que vous voulez déployer.

5. Une fois que vous avez sélectionné un modèle, le bouton Déployer est disponible avec un menu déroulant.

6. Sélectionnez l’option Point de terminaison en temps réel.

   

   Le système génère le modèle et l’environnement nécessaires au déploiement.

   

Déployer manuellement à partir de studio ou de la ligne de commande

Si vous souhaitez mieux contrôler le déploiement, vous pouvez télécharger les artefacts de formation et les déployer.

Pour télécharger les composants dont vous avez besoin pour le déploiement :

1. Accédez à votre expérience Machine Learning automatisé et exécutez-la dans votre espace de travail Machine Learning.

2. Choisissez l’onglet Modèles + travaux enfants.

3. Sélectionnez le modèle à utiliser. Une fois que vous avez sélectionné un modèle, le bouton Télécharger est activé.

4. Choisissez Télécharger.

   

Vous recevez un fichier .zip qui contient :

• Un fichier de spécification d’environnement Conda nommé conda_env_<VERSION>.yml
• Un fichier de scoring Python nommé scoring_file_<VERSION>.py
• Le modèle lui-même, dans un fichier Python .pkl nommé model.pkl

Pour effectuer un déploiement à l’aide de ces fichiers, vous pouvez utiliser le studio ou l’interface de ligne de commande Azure.

Studio

1. Dans Azure Machine Learning Studio, accédez à la page Modèles.
2. Sélectionnez + Inscrire>À partir de fichiers locaux.
3. Inscrivez le modèle que vous avez téléchargé à partir de l’exécution de Machine Learning automatisé.
4. Accédez à la page Environnements, sélectionnez Environnement personnalisé, puis sélectionnez + Créer pour créer un environnement pour votre déploiement. Utilisez le fichier YAML Conda téléchargé pour créer un environnement personnalisé.
5. Sélectionnez le modèle et, dans le menu déroulant Déployer, sélectionnez Point de terminaison en temps réel.
6. Effectuez toutes les étapes de l’Assistant pour créer un point de terminaison et un déploiement en ligne.

Azure CLI

S’APPLIQUE À : Extension ml Azure CLI v2 (actuelle)

Configuration de l’interface CLI

Pour créer un déploiement à partir de l’interface CLI, vous avez besoin de l’interface Azure CLI avec l’extension ML v2. Exécutez la commande suivante pour confirmer :

az version

Si vous recevez un message d’erreur ou que vous ne voyez pas Extensions: ml dans la réponse, procédez comme expliqué dans la section Installer et configurer l’interface CLI (v2).

1. Se connecter.

   az login
   

2. Si vous avez accès à plusieurs abonnements Azure, vous pouvez définir votre abonnement actif.

   az account set -s "<YOUR_SUBSCRIPTION_NAME_OR_ID>"
   

3. Définissez le groupe de ressources et l’espace de travail par défaut où vous souhaitez créer le déploiement.

   az configure --defaults group=$GROUP workspace=$WORKSPACE location=$LOCATION
   

Placer le fichier de scoring dans son propre répertoire

Créez un répertoire nommé src. Enregistrez-y le fichier de scoring que vous avez téléchargé. Ce répertoire est chargé dans Azure et contient tout le code source nécessaire pour effectuer l’inférence. Pour un modèle AutoML, il n’y a qu’un fichier de scoring unique.

Créer le point de terminaison et le fichier de déploiement YAML

Pour créer un point de terminaison en ligne à partir de la ligne de commande, créez des fichiers endpoint.yml et deployment.yml. Le code suivant extrait du référentiel d’exemples Azure Machine Learning montre endpoints/online/managed/sample/ qui capture toutes les entrées nécessaires.

automl_endpoint.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-endpoint
auth_mode: key

automl_deployment.yml

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineDeployment.schema.json
name: blue
endpoint_name: my-endpoint
model:
  path: ../../model-1/model/
code_configuration:
  code: ../../model-1/onlinescoring/
  scoring_script: score.py
environment: 
  conda_file: ../../model-1/environment/conda.yaml
  image: mcr.microsoft.com/azureml/openmpi4.1.0-ubuntu20.04:latest
instance_type: Standard_DS3_v2
instance_count: 1

Vous devez modifier ce fichier pour utiliser les fichiers que vous avez téléchargés à partir de la page Modèles AutoML.

1. Créez des fichiers automl_endpoint.yml et automl_deployment.yml et collez le contenu des exemples précédents.

2. Modifiez la valeur name du point de terminaison. Le nom du point de terminaison doit être unique dans la région Azure. Le nom d’un point de terminaison doit commencer par une lettre majuscule ou minuscule et contenir uniquement des caractères « - » et alphanumériques.

3. Dans le fichier automl_deployment.yml, modifiez la valeur des clés dans les chemins d’accès suivants.

   Chemin d’accès	Remplacer par
   model:path	Chemin d’accès au fichier model.pkl que vous avez téléchargé.
   code_configuration:code:path	Répertoire dans lequel vous avez placé le fichier de scoring.
   code_configuration:scoring_script	Nom du fichier de scoring Python (scoring_file_<VERSION>.py).
   environment:conda_file	URL de fichier pour le fichier d’environnement Conda téléchargé (conda_env_<VERSION>.yml).

   Remarque

   Pour obtenir une description complète du YAML, consultez Informations de référence du schéma YAML de point de terminaison en ligne.

4. À partir de la ligne de commande, exécutez :

   S’APPLIQUE À : Extension ml Azure CLI v2 (actuelle)

   az ml online-endpoint create -f automl_endpoint.yml
   az ml online-deployment create -f automl_deployment.yml
   

Après avoir créé un déploiement, vous pouvez effectuer le scoring comme décrit à la section Appeler le point de terminaison pour effectuer le scoring des données avec votre modèle.

Kit de développement logiciel (SDK) Python

S’APPLIQUE À : Kit de développement logiciel (SDK) Python azure-ai-mlv2 (préversion)

Configuration du kit SDK Python

Si vous devez installer le Kit de développement logiciel (SDK) Python v2, installez avec cette commande :

pip install azure-ai-ml azure-identity

Pour plus d’informations, consultez Installation du kit SDK Azure Machine Learning v2 pour Python.

Placer le fichier de scoring dans son propre répertoire

Créez un répertoire nommé src. Enregistrez-y le fichier de scoring que vous avez téléchargé. Ce répertoire est chargé dans Azure et contient tout le code source nécessaire pour effectuer l’inférence. Pour un modèle AutoML, il n’y a qu’un fichier de scoring unique.

Se connecter à un espace de travail Azure Machine Learning

1. Importez les bibliothèques nécessaires.

   # import required libraries
   from azure.ai.ml import MLClient
   from azure.ai.ml.entities import (
       ManagedOnlineEndpoint,
       ManagedOnlineDeployment,
       Model,
       Environment,
       CodeConfiguration,
   )
   from azure.identity import DefaultAzureCredential
   

2. Configurez les détails de l’espace de travail et obtenez un handle pour l’espace de travail.

   # enter details of your Azure Machine Learning workspace
   subscription_id = "<SUBSCRIPTION_ID>"
   resource_group = "<RESOURCE_GROUP>"
   workspace = "<AZUREML_WORKSPACE_NAME>"
   

   # get a handle to the workspace
   ml_client = MLClient(
       DefaultAzureCredential(), subscription_id, resource_group, workspace
   )
   

Création du point de terminaison et du déploiement

Créez les points de terminaison et les déploiements en ligne gérés.

1. Configurez le point de terminaison en ligne.

   Conseil

   • name : Nom du point de terminaison. Il doit être unique au sein de la région Azure. Le nom d’un point de terminaison doit commencer par une lettre majuscule ou minuscule et contenir uniquement des caractères « - » et alphanumériques. Pour plus d’informations sur les règles de nommage, consultez limites de point de terminaison.
   • auth_mode : utilisez key pour l’authentification basée sur une clé. Utilisez aml_token pour l’authentification Azure Machine Learning basée sur les jetons. key n’expire pas, mais aml_token expire. Pour plus d’informations sur l’authentification, consultez S’authentifier auprès d’un point de terminaison en ligne.

   # Creating a unique endpoint name with current datetime to avoid conflicts
   import datetime
   
   online_endpoint_name = "endpoint-" + datetime.datetime.now().strftime("%m%d%H%M%f")
   
   # create an online endpoint
   endpoint = ManagedOnlineEndpoint(
       name=online_endpoint_name,
       description="this is a sample online endpoint",
       auth_mode="key",
   )
   

2. Créez le point de terminaison.

   En utilisant le MLClient créé précédemment, créez le point de terminaison dans l’espace de travail. Cette commande démarre la création du point de terminaison. Elle retourne une réponse de confirmation pendant la création du point de terminaison.

   ml_client.begin_create_or_update(endpoint)
   

3. Configurez le déploiement en ligne.

   Un déploiement est un ensemble de ressources nécessaires pour héberger le modèle qui effectue l’inférence réelle. Créez un déploiement pour notre point de terminaison avec la classe ManagedOnlineDeployment.

   model = Model(path="./src/model.pkl")
   env = Environment(
       conda_file="./src/conda_env_v_1_0_0.yml",
       image="mcr.microsoft.com/azureml/openmpi3.1.2-ubuntu18.04:latest",
   )
   
   blue_deployment = ManagedOnlineDeployment(
       name="blue",
       endpoint_name=online_endpoint_name,
       model=model,
       environment=env,
       code_configuration=CodeConfiguration(
           code="./src", scoring_script="scoring_file_v_2_0_0.py"
       ),
       instance_type="Standard_DS2_v2",
       instance_count=1,
   )
   

   Dans cet exemple, les fichiers que vous avez téléchargés sur la page Modèles AutoML se trouvent dans le répertoire src. Vous pouvez modifier les paramètres dans le code en fonction de votre situation.

   Paramètre	Remplacer par
   model:path	Chemin d’accès au fichier model.pkl que vous avez téléchargé.
   code_configuration:code:path	Répertoire dans lequel vous avez placé le fichier de scoring.
   code_configuration:scoring_script	Nom du fichier de scoring Python (scoring_file_<VERSION>.py).
   environment:conda_file	URL de fichier pour le fichier d’environnement Conda téléchargé (conda_env_<VERSION>.yml).

4. Créez le déploiement.

   En utilisant le MLClient créé plus tôt, créez le déploiement dans l’espace de travail. Cette commande commence à créer le déploiement. Elle retourne une réponse de confirmation pendant la création déploiement.

   ml_client.begin_create_or_update(blue_deployment)
   

Une fois que vous avez créé un déploiement, vous pouvez le noter (cf. Test du point de terminaison avec des exemples de données).

Pour en savoir plus concernant le déploiement sur des points de terminaison en ligne gérés avec le Kit de développement logiciel (SDK), consultez Déployer et donner un score à un modèle Machine Learning à l’aide d’un point de terminaison en ligne.

Contenu connexe

• Résolution des problèmes de déploiement et de scoring de points de terminaison en ligne
• Effectuer un lancement sécurisé de nouveaux déploiements pour l’inférence en temps réel