Déployer sur un point de terminaison en ligne AI/ML Studio à l’aide d’Azure Developer CLI

Azure Developer CLI vous permet de déployer rapidement et facilement sur un point de terminaison en ligne Azure ML Studio ou Azure AI Studio . azd prend en charge les fonctionnalités d’IA/ML Studio suivantes, que vous allez apprendre à configurer dans les sections à l’avance :

• Environnements personnalisés
  • Les environnements peuvent être consultés avec Azure ML Studio sous la Environments section.
• Modèles personnalisés
  • Les modèles peuvent être consultés avec Azure ML Studio sous la models section.
• Flux d’invite
  • Les flux peuvent être consultés avec Azure ML Studio sous la flows section.
  • Les flux peuvent être consultés avec Azure AI Studio sous la flows section.
• Déploiements en ligne (dans Online-Endpoint)
  • Les déploiements peuvent être consultés avec Azure ML Studio sous la deployments section.
  • Les déploiements peuvent être consultés avec Azure AI Studio sous la deployments section.

Prérequis

Pour utiliser des points de terminaison en ligne AI/ML Studio, vous avez besoin des éléments suivants :

• Abonnement Azure avec accès OpenAI activé
• Ressource AI Hub
• Projet IA
• OpenAI Service
• Point de terminaison en ligne
• Service de recherche IA (facultatif, activé par défaut)

Le modèle AI Studio Starter peut vous aider à créer toute l’infrastructure requise pour commencer à utiliser des points de terminaison AI Studio.

Configurer le point de terminaison en ligne AI/ML Studio

Configurez la prise en charge des points de terminaison en ligne IA/ML dans la services section du azure.yaml fichier :

• Définissez la valeur de host sur ai.endpoint.
• La config section pour ai.endpoint prendre en charge les configurations suivantes :
  • espace de travail : nom de l’espace de travail AI Studio. Prend en charge azd les substitutions et la syntaxe des variables d’environnement.
    • S’il n’est pas spécifié, azd recherche la variable d’environnement avec le nom AZUREAI_PROJECT_NAME.
  • environnement : configuration personnalisée facultative pour les environnements ML. azd crée une version d’environnement à partir de la définition de fichier YAML référencée.
  • flux : configuration personnalisée facultative pour les flux. azd crée un flux d’invite à partir du chemin d’accès de fichier spécifié.
  • modèle : configuration personnalisée facultative pour les modèles ML. azd crée une version de modèle à partir de la définition de fichier YAML référencée.
  • déploiement : configuration requise pour les déploiements de points de terminaison en ligne. azd crée un déploiement en ligne sur le point de terminaison en ligne associé à partir de la définition de fichier YAML référencée.

Considérez l’exemple azure.yaml de fichier suivant qui configure ces fonctionnalités :

name: contoso-chat
metadata:
  template: contoso-chat@0.0.1-beta
services:
  chat:
    # Referenced new ai.endpoint host type
    host: ai.endpoint
    # New config flow for AI project configuration
    config:
      # The name of the AI studio workspace
      workspace: ${AZUREAI_PROJECT_NAME}
      # Optional: Path to custom ML environment manifest
      environment:
        path: deployment/docker/environment.yml
      # Optional: Path to your prompt flow folder that contains the flow manifest
      flow:
        path: ./contoso-chat
      # Optional: Path to custom model manifest
      model:
        path: deployment/chat-model.yaml
        overrides:
          "properties.azureml.promptflow.source_flow_id": ${AZUREAI_FLOW_NAME}
      # Required: Path to deployment manifest
      deployment:
        path: deployment/chat-deployment.yaml
        environment:
          PRT_CONFIG_OVERRIDE: deployment.subscription_id=${AZURE_SUBSCRIPTION_ID},deployment.resource_group=${AZURE_RESOURCE_GROUP},deployment.workspace_name=${AZUREAI_PROJECT_NAME},deployment.endpoint_name=${AZUREAI_ENDPOINT_NAME},deployment.deployment_name=${AZUREAI_DEPLOYMENT_NAME}

La config.deployment section est requise et crée un déploiement en ligne sur le point de terminaison en ligne associé à partir de la définition de fichier yaml référencée. Cette fonctionnalité gère différentes préoccupations pour vous, notamment les suivantes :

• L’environnement et le modèle associés sont référencés lorsqu’ils sont disponibles.
• azd attend que le déploiement entre un état d’approvisionnement de terminal.
• Lors des déploiements réussis, tout le trafic est déplacé vers la nouvelle version du déploiement.
• Tous les déploiements précédents sont supprimés pour libérer le calcul pour les déploiements futurs.

Explorer les options de configuration

Chaque fonctionnalité prise en charge pour les points de terminaison en ligne IA/ML prend en charge les personnalisations de votre scénario spécifique à l’aide des options décrites dans les sections suivantes.

Flux

La flow section de configuration est facultative et prend en charge les valeurs suivantes :

• nom : nom du flux. La valeur par défaut est si elle n’est <service-name>-flow-<timestamp> pas spécifiée.

• chemin d’accès : chemin relatif d’un dossier qui contient le manifeste de flux.

• remplacements : remplacements personnalisés à appliquer au flux.

  Remarque

  Chaque appel pour azd deploy créer un flux horodaté.

Environment

La environment section de configuration est facultative et prend en charge les valeurs suivantes :

• nom : nom de l’environnement personnalisé. La valeur par défaut est si elle n’est <service-name>-environment pas spécifiée.

• chemin d’accès : chemin relatif d’un manifeste yaml d’environnement personnalisé.

• remplacements : remplacements personnalisés à appliquer à l’environnement.

  Remarque

  Chaque appel pour azd deploy créer une nouvelle version d’environnement.

Modèle

La model section de configuration est facultative et prend en charge les valeurs suivantes :

• nom : nom du modèle personnalisé. La valeur par défaut est si elle n’est <service-name>-model pas spécifiée.

• chemin d’accès : chemin relatif d’un manifeste yaml de modèle personnalisé.

• remplacements : tous les remplacements personnalisés à appliquer au modèle.

  Remarque

  Chaque appel pour azd deploy créer une nouvelle version d’environnement.

Déploiement

La deployment section de configuration est requise et prend en charge les valeurs suivantes :

• nom : nom du déploiement personnalisé. La valeur par défaut est si elle n’est <service-name>-deployment pas spécifiée.

• chemin d’accès : chemin relatif d’un manifeste yaml de déploiement personnalisé.

• environnement : mappage de paires clé-valeur pour définir des variables d’environnement pour le déploiement. Prend en charge les substitutions de variables d’environnement à partir de variables d’environnement OS/AZD à l’aide ${VAR_NAME} de la syntaxe.

• remplacements : tous les remplacements personnalisés à appliquer au déploiement.

  Remarque

  Prend uniquement en charge les déploiements en ligne managés.