Créer et gérer des services de modèle

Important

Cette fonctionnalité est en version bêta. Les administrateurs de compte peuvent contrôler l’accès à cette fonctionnalité à partir de la page Aperçus de la console de compte. Consultez Gérer les préversions d’Azure Databricks.

Cette page explique comment créer, partager et gérer des services de modèle dans le catalogue Unity.

Requirements

  • Préversion de Unity AI Gateway activée pour votre compte. Consultez Gérer les préversions d’Azure Databricks.
  • Espace de travail Azure Databricks dans une région prise en charge par Unity AI Gateway.
  • Catalogue Unity activé pour votre espace de travail. Consultez Activer un espace de travail pour le Catalogue Unity.
  • Pour créer un service de modèle, vous devez disposer des éléments suivants :
    • USE CATALOG, USE SCHEMA et CREATE SERVICE sur le catalogue et le schéma dans lesquels vous créez le service de modèle.
    • EXECUTE sur chaque modèle référencé par le service de modèle en tant que destination.
    • USE CATALOG, USE SCHEMA et CREATE TABLE sur le catalogue et le schéma où la table d’inférence est créée, si vous activez la journalisation de l’inférence.

Créer un service de modèle

Vous pouvez créer un service de modèle dans l’interface utilisateur unity AI Gateway ou dans l’Explorateur de catalogues.

Les services de modèle et les services de fournisseur de modèles partagent un espace de noms unique au sein d’un schéma de catalogue Unity. Vous ne pouvez pas utiliser de nom pour un service de modèle si un service fournisseur de modèles dans le schéma l’utilise déjà, et vice versa.

Utiliser l’interface utilisateur

  1. Effectuez l’une des actions suivantes :
    • Dans la barre latérale de l’espace de travail, cliquez sur PASSERELLE AI, puis sur Créer.
    • Dans l’Explorateur de catalogue, accédez au schéma dans lequel vous souhaitez créer le service de modèle, puis cliquez sur Créer>Service>Service de modèle.
  2. Entrez un nom pour le service de modèle, puis sélectionnez le catalogue et le schéma dans lesquels le créer. Si vous démarrez à partir de l’Explorateur de catalogues, l’Explorateur de catalogues prérempli le catalogue et le schéma.
  3. Sélectionnez le modèle principal à utiliser parmi les modèles hébergés par Databricks sur lesquels vous avez EXECUTE et que Unity AI Gateway peut servir.
  4. Cliquez sur Créer.

Après avoir créé le service de modèle, Azure Databricks ouvre sa page de vue d’ensemble, où vous pouvez commencer ou configurer des fonctionnalités supplémentaires telles que la journalisation d’inférence.

Accorder l’accès à un service de modèles

Pour permettre à d’autres utilisateurs d’interroger un service de modèle, accordez-les EXECUTE sur le service de modèle et USE CATALOGUSE SCHEMA sur son catalogue et son schéma. Si le service de modèle consigne les données dans une table d’inférence, accordez-lui SELECT sur la table pour lui permettre de lire les requêtes et les réponses consignées.

Pour accorder l’accès dans l’Explorateur de catalogues :

  1. Dans Catalog Explorer, ouvrez le service de modèle.
  2. Dans l’onglet Autorisations, cliquez sur Accorder.
  3. Sélectionnez les utilisateurs ou les groupes auxquels accorder l’accès, sélectionnez le EXECUTE privilège, puis cliquez sur Accorder.

Assurez-vous que les mêmes principaux ont USE CATALOG également et USE SCHEMA sur le catalogue et le schéma du service de modèle. Pour leur permettre de lire les requêtes et réponses journalisées, accordez SELECT sur la table d’inférence depuis l’onglet Autorisations.

Pour plus d’informations sur l’octroi et la découverte de l’accès, consultez les services de modèle de gouvernance.

Configurer des fonctionnalités sur un service de modèle

Vous configurez des fonctionnalités telles que les limites de débit, la journalisation des inférences et les garde-fous sur le service de modèle à partir de l’interface utilisateur de la passerelle AI Unity, de la même façon que vous les configurez sur un point de terminaison Unity AI Gateway. See:

Journalisation des inférences

Lorsque vous activez la journalisation de l’inférence, Azure Databricks crée une table de catalogue Unity vide avec un schéma prédéfini à l’emplacement que vous spécifiez. Notez les points suivants :

  • Vous devez avoir USE CATALOG, USE SCHEMAet CREATE TABLE sur le catalogue cible et le schéma.
  • Le créateur du service de modèles est le propriétaire de la table d’inférence. Aucun autre utilisateur n’a accès, sauf si vous l’accordez.
  • Si une table existe déjà à l’emplacement spécifié, la création du service de modèle échoue.
  • La table d’inférence a un cycle de vie indépendant du service de modèle. Si vous supprimez la table, le service de modèle continue de fonctionner mais arrête la journalisation.

Pour plus d’informations sur les tables d’inférence, consultez Surveiller les services de modèle à l’aide de tables d’inférence.

Supprimer un service de modèle

Pour supprimer un service de modèle, vous devez disposer au minimum du privilège MANAGE pour ce service. Le propriétaire dispose d’un sur-ensemble de MANAGE.

Pour supprimer un service modèle, ouvrez-le dans l’Explorateur de catalogues et sélectionnez Supprimer dans le menu kebab.

Les services de modèles fournis par le système dans system.ai ne peuvent pas être supprimés.

Étapes suivantes

  • Last updated on