Services de modèles dans Unity Catalog

Important

Cette fonctionnalité est en version bêta. Les administrateurs de compte peuvent contrôler l’accès à cette fonctionnalité à partir de la page Aperçus de la console de compte. Consultez Gérer les préversions d’Azure Databricks.

Remarque

Unity AI Gateway n’est pas pris en charge sur Azure Government.

Un service de modèle est un objet sécurisable du catalogue Unity qui représente un endpoint LLM gouverné. Les services de modèles vous permettent de définir, de partager et de gérer l’accès aux LLM de manière centralisée dans Unity Catalog, aux côtés de vos données et au-delà des limites des espaces de travail.

Pendant la version bêta, les services de modèle prennent en charge les éléments suivants :

  • Modèles de fondation à paiement par jeton hébergés par Databricks, en tant que services fournis par le système dans system.ai et en tant que services que vous créez.
  • Création et gestion de services de modèle avec l’interface utilisateur unity AI Gateway, l’Explorateur de catalogues et l’API REST du catalogue Unity.
  • Interroger les services de modèle dans différents espaces de travail, depuis l’intérieur et l’extérieur d’Azure Databricks.

Qu’est-ce qu’un service de modèles ?

Un service de modèle réside dans un schéma Unity Catalog et référence un ou plusieurs modèles servis comme destinations, avec un routage et un mécanisme de secours entre eux. Les appelants appellent le service de modèle par son nom complet et Unity AI Gateway achemine chaque requête vers un modèle de destination.

Étant donné qu’un service de modèle est un objet sécurisable du catalogue Unity, il :

  • Réside dans un catalogue et un schéma, dont il hérite des paramètres, tels que les liaisons d’espace de travail.
  • Contient les métadonnées standard du catalogue Unity, telles que le nom, le propriétaire, le commentaire et les balises.
  • Est régi par les privilèges du catalogue Unity. Vous accordez donc l’accès à l’aide des mêmes GRANT instructions que REVOKE celles que vous utilisez pour les tables, les fonctions et les modèles.
  • Est détectable dans l’Explorateur de catalogues, en même temps que le reste de vos ressources de catalogue Unity.

Le même service de modèle apparaît également en tant que point de terminaison dans l’interface utilisateur unity AI Gateway, où les équipes IA peuvent configurer des fonctionnalités telles que des limites de débit, des tables d’inférence et des garde-fous. Pour plus d’informations sur ces fonctionnalités, consultez la gouvernance de l’IA avec Unity AI Gateway.

Pourquoi gouverner les LLM dans Unity Catalog ?

Les points de terminaison Unity AI Gateway créés dans un espace de travail sont limités à cet espace de travail. Pour partager un point de terminaison entre les espaces de travail, vous devez le dupliquer dans chaque espace de travail et gérer chaque copie séparément.

Les services de modèles intègrent la gouvernance à Unity Catalog, ce qui vous permet de :

  • Définissez un point de terminaison LLM une fois et utilisez-le à partir de n’importe quel espace de travail attaché au même metastore.
  • Régir l’accès de manière centralisée à l’aide des privilèges du catalogue Unity, au lieu des autorisations par espace de travail.
  • Découvrez les modèles qui sont disponibles entre les espaces de travail à partir d’un emplacement unique.
  • Suivez l’utilisation et le coût des services de modèle dans les tables système du catalogue Unity.

Services de modèle fournis par le système

Azure Databricks fournit un service de modèle prêt à l’emploi dans le system.ai schéma pour chaque modèle de base hébergé par Databricks, tel que system.ai.databricks-claude-opus-4-6. Azure Databricks ajoute de nouveaux services de modèle système à mesure que de nouveaux modèles de base deviennent disponibles.

Les services de modèle fournis par le système présentent les caractéristiques suivantes :

  • Par défaut, tous les utilisateurs de compte ont le EXECUTE privilège. Vous pouvez donc les interroger sans configuration supplémentaire.
  • Un utilisateur système les possède et vous ne pouvez pas les supprimer.
  • Par défaut, seuls les administrateurs de metastore peuvent les modifier. Un administrateur de metastore peut déléguer la gestion en accordant le MANAGE privilège.

Pour restreindre l’accès aux services de modèle fournis par le système, consultez régir les services de modèle.

Privilèges

Les services de modèles utilisent le modèle standard d’autorisations de Unity Catalog. Les privilèges suivants s’appliquent :

Privilège Description
USE CATALOG, USE SCHEMA Accédez au catalogue et au schéma qui contiennent le service de modèle. Obligatoire pour toutes les opérations.
CREATE SERVICE Créez des services de modélisation dans un schéma. Accordé au niveau du catalogue ou du schéma.
EXECUTE Interrogez un service de modèle.
MANAGE Modifiez ou supprimez un service de modèle et gérez ses subventions. Le propriétaire dispose d’un sur-ensemble de MANAGE.

Lorsqu'un utilisateur interroge un service de modèle, Azure Databricks vérifie que le propriétaire a EXECUTE sur les modèles référencés (droits de definer). L’appelant n’a pas besoin d’un accès direct aux modèles sous-jacents.

Limitations

Les fonctionnalités suivantes ne sont pas disponibles pendant la version bêta :

  • Modèles de débit alloué et fournisseurs de modèles externes.
  • Création et gestion de services de modèle avec Terraform ou SQL.
  • Découverte des services de modèle avec uniquement le privilège BROWSE.
  • Traçabilité et recherche globale pour les services de modèles.

Étapes suivantes

  • Last updated on