Catalogue et collections de modèles dans Azure AI Studio
Important
Les éléments marqués (préversion) dans cet article sont actuellement en préversion publique. Cette préversion est fournie sans contrat de niveau de service, nous la déconseillons dans des charges de travail de production. Certaines fonctionnalités peuvent être limitées ou non prises en charge. Pour plus d’informations, consultez Conditions d’Utilisation Supplémentaires relatives aux Évaluations Microsoft Azure.
Le catalogue de modèles dans Azure AI Studio est le hub qui vous permet de découvrir et d’utiliser un large éventail de modèles pour créer des applications d’IA générative. Le catalogue de modèles comprend des centaines de modèles provenant de fournisseurs de modèles comme Azure OpenAI Service, Mistral, Meta, Cohere, NVIDIA et Hugging Face, y compris des modèles entraînés par Microsoft. Les modèles provenant de fournisseurs autres que Microsoft ne sont pas des produits Microsoft, tels que définis dans les conditions générales des produits Microsoft, et sont soumis aux conditions fournies avec les modèles.
Collections de modèles
Le catalogue de modèles organise les modèles en trois collections :
Organisés par Azure AI : modèles propriétaires et open weight non-Microsoft les plus populaires, empaquetés et optimisés pour fonctionner de manière fluide sur la plateforme Azure AI. L’utilisation de ces modèles est soumise aux termes du contrat de licence des fournisseurs de modèles. Lorsque vous déployez ces modèles dans Azure AI Studio, leur disponibilité est soumise au contrat de niveau de service (SLA) Azure applicable, et Microsoft prend en charge les problèmes de déploiement.
Les modèles de partenaires tels que Meta, NVIDIA et Mistral AI sont des exemples de modèles disponibles dans cette collection sur le catalogue. Vous pouvez identifier ces modèles en recherchant une coche verte sur les vignettes de modèle dans le catalogue. Vous pouvez également filtrer par collection, ici la collection Organisés par Azure AI.
Modèles Azure OpenAI exclusivement disponibles sur Azure : modèles Azure OpenAI phares de la collection, disponibles via une intégration à Azure OpenAI Service. Microsoft prend en charge ces modèles et leur utilisation conformément aux conditions du produit et au contrat de niveau de service (SLA) pour Azure OpenAI Service.
Modèles ouverts à partir du hub Hugging Face : des centaines de modèles du hub Hugging Face sont accessibles pour l’inférence en temps réel avec le calcul managé. Hugging Face crée et gère les modèles listés dans cette collection. Pour obtenir de l’aide, utilisez le forum Hugging Face ou le support Hugging Face. Apprenez-en davantage dans Déployer des modèles ouverts avec Azure AI Studio.
Vous pouvez envoyer une demande d’ajout de modèle au catalogue de modèles en remplissant ce formulaire.
Vue d’ensemble des fonctionnalités du catalogue de modèles
Vous pouvez déployer certains modèles dans les collections Organisés par Azure AI et Modèles ouverts à partir du hub Hugging Face avec une option de calcul managé. Certains modèles peuvent être déployés via des API serverless avec une facturation par paiement à l’utilisation.
Vous pouvez découvrir, comparer, évaluer, ajuster (le cas échéant) et déployer ces modèles à grande échelle. Vous pouvez ensuite intégrer les modèles dans vos applications IA génératives avec la sécurité et la gouvernance des données de niveau entreprise. La liste suivante décrit en détail les activités :
- Découvrir : passez en revue les cartes de modèles, essayez des exemples d’inférence et parcourez des exemples de code pour évaluer, ajuster ou déployer le modèle.
- Comparez : comparez les points de référence entre les modèles et jeux de données disponibles du secteur d’activité pour évaluer celui qui répond à votre scénario métier.
- Évaluer : évaluez l’adaptation du modèle à votre charge de travail spécifique en fournissant vos propres données de test. Utilisez des métriques d’évaluation pour visualiser les performances du modèle sélectionné dans votre scénario.
- Ajuster : personnalisez des modèles ajustables à l’aide de vos propres données d’apprentissage et choisissez le meilleur modèle en comparant les métriques sur tous vos travaux d’ajustement. Les optimisations intégrées accélèrent l’ajustement et réduisent la mémoire et le calcul requis.
- Déployez : déployez des modèles préentraînés ou des modèles ajustés en toute fluidité pour l’inférence. Vous pouvez également télécharger des modèles qui peuvent être déployés sur le calcul managé.
Pour plus d’informations sur les modèles Azure OpenAI, consultez Qu’est-ce qu’Azure OpenAI Service ?.
Déploiement des modèles : calcul managé et API serverless (paiement à l’utilisation)
Le catalogue de modèles offre deux façons distinctes de déployer des modèles en vue de les utiliser : calcul managé et API serverless.
Les options et fonctionnalités de déploiement disponibles pour chaque modèle varient, comme vous pouvez le voir dans les tableaux suivants. Découvrez-en davantage sur le traitement des données avec les options de déploiement.
Fonctionnalités des options de déploiement de modèle
| Fonctionnalités | Capacité de calcul managée | API serverless (paiement à l’utilisation) |
|---|---|---|
| Expérience de déploiement et facturation | Les pondérations de modèle sont déployées sur des machines virtuelles dédiées avec un calcul managé. Un calcul managé, qui peut avoir un ou plusieurs déploiements, met à disposition une API REST pour l’inférence. Vous êtes facturé pour les Heures cœur de machine virtuelle utilisées par les déploiements. | L’accès aux modèles se fait via un déploiement qui approvisionne une API pour accéder au modèle. L’API fournit l’accès au modèle que Microsoft héberge et gère pour l’inférence. Vous êtes facturé pour les entrées et sorties vers les API, généralement en jetons. Les informations de tarification sont fournies avant le déploiement. |
| Authentification des API | Clés et authentification Microsoft Entra. | Clés uniquement. |
| Sécurité du contenu | Utilisez les API du service Azure AI Sécurité du Contenu. | Les filtres Azure AI Sécurité du Contenu sont intégrés aux API d’inférence. Les filtres Azure AI Sécurité du Contenu sont facturés séparément. |
| Isolement réseau | Configurer un réseau managé pour les hubs Azure AI Studio. | Le calcul managé suit le paramètre d’indicateur d’accès au réseau public (PNA) de votre hub. Pour plus d’informations, consultez la section Isolement réseau pour les modèles déployés via des API serverless plus loin dans cet article. |
Modèles disponibles pour les options de déploiement prises en charge
| Modèle | Capacité de calcul managée | API serverless (paiement à l’utilisation) |
|---|---|---|
| Modèles de la famille Llama | Llama-2-7b Llama-2-7b-chat Llama-2-13b Llama-2-13b-chat Llama-2-70b Llama-2-70b-chat Llama-3-8B-Instruct Llama-3-70B-Instruct Llama-3-8B Llama-3-70B |
Llama-3-70B-Instruct Llama-3-8B-Instruct Llama-2-7b Llama-2-7b-chat Llama-2-13b Llama-2-13b-chat Llama-2-70b Llama-2-70b-chat |
| Modèles de la famille Mistral | mistralai-Mixtral-8x22B-v0-1 mistralai-Mixtral-8x22B-Instruct-v0-1 mistral-community-Mixtral-8x22B-v0-1 mistralai-Mixtral-8x7B-v01 mistralai-Mistral-7B-Instruct-v0-2 mistralai-Mistral-7B-v01 mistralai-Mixtral-8x7B-Instruct-v01 mistralai-Mistral-7B-Instruct-v01 |
Mistral-large (2402) Mistral-large (2407) Mistral-small Ministral-3B Mistral-NeMo |
| Modèles de la famille Cohere | Non disponible | Cohere-command-r-plus-08-2024 Cohere-command-r-08-2024 Cohere-command-r-plus Cohere-command-r Cohere-embed-v3-english Cohere-embed-v3-multilingual Cohere-rerank-v3-english Cohere-rerank-v3-multilingual |
| JAIS | Non disponible | jais-30b-chat |
| Modèles de famille d’IA de santé | MedImageInsight CxrReportGen MedImageParse |
Non disponible |
| Modèles de la famille Phi-3 | Phi-3-mini-4k-Instruct Phi-3-mini-128k-Instruct Phi-3-small-8k-Instruct Phi-3-small-128k-Instruct Phi-3-medium-4k-instruct Phi-3-medium-128k-instruct Phi-3-vision-128k-Instruct Phi-3.5-mini-Instruct Phi-3.5-vision-Instruct Phi-3.5-MoE-Instruct |
Phi-3-mini-4k-Instruct Phi-3-mini-128k-Instruct Phi-3-small-8k-Instruct Phi-3-small-128k-Instruct Phi-3-medium-4k-instruct Phi-3-medium-128k-instruct Phi-3.5-mini-Instruct Phi-3.5-vision-Instruct Phi-3.5-MoE-Instruct |
| Nixtla | Non disponible | TimeGEN-1 |
| Autres modèles | Disponible | Non disponible |
Capacité de calcul managée
La capacité à déployer des modèles en tant que calcul managé s’appuie sur les fonctionnalités de plateforme d’Azure Machine Learning pour permettre une intégration fluide de la vaste collection de modèles dans le catalogue de modèles tout au long du cycle de vie des opérations des grands modèles de langage (LLM).
Disponibilité des modèles pour le déploiement en tant que calcul managé
Les modèles sont mis à disposition via les registres Azure Machine Learning. Ces registres offrent une approche axée sur le Machine Learning pour l’hébergement et la distribution des ressources Azure Machine Learning. Ces ressources incluent des pondérations de modèle, des runtimes de conteneur pour l’exécution des modèles, des pipelines pour l’évaluation et l’ajustement des modèles, ainsi que des jeux de données pour les benchmarks et les exemples.
Ces registres s’appuient sur une infrastructure hautement évolutive et prête pour l’entreprise qui :
Fournit des artefacts de modèle d’accès à faible latence à toutes les régions Azure avec la géoréplication intégrée.
Prend en charge les exigences de sécurité d’entreprise, notamment la limitation de l’accès aux modèles avec Azure Policy et la sécurisation du déploiement à l’aide de réseaux virtuels managés.
Déploiement de modèles pour l’inférence avec le calcul managé
Les modèles disponibles pour le déploiement vers le calcul managé peuvent être déployés sur un calcul managé Azure Machine Learning pour l’inférence en temps réel. Pour un déploiement sur le calcul managé, vous devez avoir un quota de machines virtuelles dans votre abonnement Azure pour les produits spécifiques dont vous avez besoin pour exécuter le modèle de manière optimale. Certains modèles vous permettent d’effectuer un déploiement sur un quota temporairement partagé pour les tests de modèle.
Découvrez-en davantage sur le déploiement de modèles :
Création d’applications d’IA générative avec le calcul managé
La fonctionnalité flux d’invite dans Azure Machine Learning offre une expérience idéale pour le prototypage. Vous pouvez utiliser des modèles déployés avec le calcul managé dans le flux d’invite avec l’outil Open Model LLM. Vous pouvez également utiliser l’API REST exposée par le calcul managé dans les outils LLM populaires tels que LangChain avec l’extension Azure Machine Learning.
Sécurité du contenu pour les modèles déployés en tant que calcul managé
Le service Azure AI Sécurité du Contenu est disponible pour une utilisation avec des calculs managés pour détecter différentes catégories de contenu dangereux, notamment le contenu sexuel, violent, haineux et d’automutilation. Vous pouvez également utiliser le service pour détecter des menaces avancées telles que la détection des risques de jailbreak et la détection de texte matériel protégé.
Vous pouvez vous référer à ce notebook pour une intégration de référence à Azure AI Sécurité du Contenu pour Llama 2. Vous pouvez également utiliser l’outil Sécurité du Contenu (texte) dans le flux d’invite pour passer des réponses du modèle à Azure AI Sécurité du Contenu à des fins de filtrage. Vous êtes facturé séparément pour cette utilisation, comme décrit dans la tarification d’Azure AI Sécurité du Contenu.
API serverless avec facturation par paiement à l’utilisation
Vous pouvez déployer certains modèles du catalogue de modèles en tant qu’API serverless avec une facturation par paiement à l’utilisation. Cette méthode de déploiement, parfois appelée MaaS (modèles en tant que service), permet de consommer les modèles en tant qu’API sans les héberger sur votre abonnement. Les modèles sont hébergés dans une infrastructure managée par Microsoft qui permet un accès basé sur l’API au modèle du fournisseur de modèles. L’accès basé sur l’API peut réduire drastiquement le coût d’accès à un modèle et simplifie l’expérience d’approvisionnement.
Les modèles disponibles pour le déploiement en tant qu’API serverless dans le cadre d’une facturation avec paiement à l’utilisation sont proposés par le fournisseur de modèles, mais ils sont hébergés dans une infrastructure Azure managée par Microsoft et sont accessibles via l’API. Les fournisseurs de modèles définissent les termes du contrat de licence et définissent le prix d’utilisation de leurs modèles. Azure Machine Learning service :
- Gère l’infrastructure d’hébergement.
- Met à disposition les API d’inférence.
- Agit en tant que processeur de données pour les prompts envoyés et le contenu généré en sortie par les modèles déployés via MaaS.
Découvrez-en davantage sur le traitement de données pour MaaS dans l’article sur la confidentialité des données.
Billing
L’expérience de découverte, d’abonnement et de consommation pour les modèles déployés via MaaS se trouve dans Azure AI Studio et Azure Machine Learning studio. Les utilisateurs acceptent les termes du contrat de licence régissant l’utilisation des modèles. Les informations de tarification pour la consommation sont fournies pendant le déploiement.
Les modèles provenant de fournisseurs non-Microsoft sont facturés via la Place de marché Azure, conformément aux conditions d’utilisation de la place de marché commerciale Microsoft.
Les modèles de Microsoft sont facturés via des compteurs Azure en tant que services de consommation internes. Comme décrit dans les conditions générales du produit, vous achetez des services de consommation internes à l’aide de compteurs Azure, mais ils ne sont pas soumis aux conditions générales des services Azure. L’utilisation de ces modèles est soumise aux termes du contrat de licence fourni.
Réglage des modèles
Certains modèles prennent également en charge l’ajustement serverless. Pour ces modèles, vous pouvez bénéficier du Fine-tuning géré avec une facturation par paiement à l’utilisation pour adapter les modèles en utilisant les données que vous fournissez. Pour obtenir plus d’informations, consultez la vue d’ensemble de l’ajustement.
RAG avec des modèles déployés en tant qu’API serverless
Dans Azure AI Studio, vous pouvez utiliser des index vectoriels et la génération augmentée de récupération (RAG). Vous pouvez utiliser des modèles qui peuvent être déployés via des API serverless pour générer des incorporations et des inférences basées sur des données personnalisées. Ces incorporations et inférences peuvent ensuite générer des réponses spécifiques à votre cas d’utilisation. Pour plus d’informations, consultez Créer et consommer des index vectoriels dans Azure AI Studio.
Disponibilité régionale des offres et des modèles
La facturation avec paiement à l’utilisation est disponible uniquement pour les utilisateurs dont l’abonnement Azure appartient à un compte de facturation dans un pays où le fournisseur de modèles a rendu l’offre disponible. Si l’offre est disponible dans la région concernée, l’utilisateur doit disposer d’un hub/projet dans la région Azure où le modèle est disponible pour le déploiement ou l’ajustement, le cas échéant. Pour obtenir des informations détaillées, consultez Disponibilité des régions pour les modèles dans les points de terminaison d’API serverless | Azure AI Studio.
Sécurité du contenu pour les modèles déployés via des API serverless
Pour les modèles de langage déployés via les API serverless, Azure AI implémente une configuration par défaut de filtres de modération de texte Azure AI Sécurité du Contenu qui détectent les contenus nuisibles comme la haine, l’automutilation, et le contenu à caractère sexuel ou violent. Pour plus d’informations sur le filtrage de contenu (préversion), consultez Catégories préjudiciables dans Azure AI Sécurité du Contenu.
Conseil
Le filtrage de contenu (préversion) n’est pas disponible pour certains types de modèles déployés via des API serverless. Ces types de modèles incluent des modèles d’incorporation et des modèles de série chronologique.
Le filtrage de contenu (préversion) se produit de façon synchrone quand le service traite des prompts pour générer du contenu. Vous pouvez être facturé séparément conformément à la tarification d’Azure AI Sécurité du Contenu pour cette utilisation. Vous pouvez désactiver le filtrage de contenu (préversion) pour des points de terminaison serverless individuels :
- Au moment où vous déployez un modèle de langage pour la première fois
- Ultérieurement, en sélectionnant le bouton bascule de filtrage du contenu dans la page des détails du déploiement
Supposons que vous décidez d’utiliser une API autre que l’API d’inférence de modèle Azure AI pour travailler avec un modèle déployé via une API serverless. Dans ce cas, le filtrage de contenu (préversion) n’est pas activé, sauf si vous l’implémentez séparément à l’aide d’Azure AI Sécurité du Contenu.
Pour bien démarrer avec Azure AI Sécurité du Contenu, consultez Démarrage rapide : Analyser du contenu texte. Si vous n’utilisez pas le filtrage de contenu (préversion) lors de l’utilisation de modèles déployés via des API serverless, vous risquez d’exposer davantage les utilisateurs à du contenu dangereux.
Isolement réseau pour les modèles déployés via des API serverless
Les calculs managés des modèles déployés en tant qu’API serverless suivent le paramètre d’indicateur d’accès au réseau public du hub AI Studio ayant le projet dans lequel le déploiement existe. Pour vous aider à sécuriser votre calcul managé, désactivez l’indicateur d’accès au réseau public sur votre hub AI Studio. Vous pouvez sécuriser la communication entrante d’un client vers votre calcul managé en utilisant un point de terminaison privé pour le hub.
Si vous souhaitez définir l’indicateur d’accès au réseau public pour le hub AI Studio :
- Accédez au portail Azure.
- Recherchez le groupe de ressources auquel appartient le hub, puis sélectionnez votre hub AI Studio dans les ressources listées pour ce groupe de ressources.
- Dans la page de présentation du hub, dans le volet de gauche, accédez à Paramètres>Mise en réseau.
- Sous l’onglet Accès public, vous pouvez configurer les paramètres de l’indicateur d’accès au réseau public.
- Enregistrez les changements apportés. Vos modifications peuvent prendre jusqu’à cinq minutes pour se propager.
Limites
Si vous avez un hub AI Studio avec un calcul managé créé avant le 11 juillet 2024, les calculs managés ajoutés aux projets de ce hub ne suivent pas la configuration de mise en réseau du hub. Au lieu de cela, vous devez créer un calcul managé pour le hub et créer de nouveaux déploiements d’API serverless dans le projet afin que les nouveaux déploiements puissent suivre la configuration de mise en réseau du hub.
Si vous avez un hub AI Studio avec des déploiements MaaS créés avant le 11 juillet 2024 et que vous activez un calcul managé sur ce hub, les déploiements MaaS existants ne suivront pas la configuration de mise en réseau du hub. Pour que les déploiements d’API serverless dans le hub suivent la configuration de mise en réseau du hub, vous devez recréer les déploiements.
Actuellement, la prise en charge d’Azure OpenAI sur vos données n’est pas disponible pour les déploiements MaaS dans des hubs privés, car l’indicateur d’accès au réseau public est désactivé sur les hubs privés.
Toute modification apportée à la configuration réseau (par exemple, l’activation ou la désactivation de l’indicateur d’accès au réseau public) peut prendre jusqu’à cinq minutes pour se propager.