Gouvernance de l’IA avec Unity AI Gateway

Important

Cette page couvre la nouvelle passerelle AI Unity (visible dans la barre latérale de l’interface utilisateur), qui est actuellement en version bêta. Les administrateurs de compte peuvent activer l’accès à cette fonctionnalité dans la page Aperçus de la console de compte. Consultez les aperçus Manage Azure Databricks.

Pour en savoir plus sur la version précédente de la passerelle AI (pas Unity AI Gateway), consultez Passerelle AI pour le service des points de terminaison.

Unity AI Gateway est la solution de gouvernance Azure Databricks pour l’IA d’entreprise. Basé sur le catalogue Unity, il étend la gouvernance au-delà de vos ressources de données et d’IA aux interactions d’exécution entre les modèles, les agents, les serveurs MCP et les outils. Contrôlez quels services d’IA les équipes peuvent utiliser, acheminez et gérez le trafic d’IA, mettez en place des garde-fous et surveillez l’utilisation depuis une console d’administration unique.

Get started

Configurez et appliquez la gouvernance de l’IA sur vos ressources IA, le trafic et le comportement du service.

Sujet	Descriptif
Guide de gouvernance de l’IA	Chemin d’accès de bout en bout pour que les administrateurs régissent l’accès aux ressources IA, au trafic et au coût, ainsi qu’au contenu des requêtes et des réponses.
Tutoriel : Régir l'accès MCP d'un agent de codage GitHub	Limitez l'accès d'un agent de programmation aux outils MCP de GitHub à l'aide des autorisations d'Unity Catalog et d'une stratégie de service intégrée.
Didacticiel : implémenter des garde-fous sur un service de modèle avec des stratégies de service	Implémentez des garde-fous sur un service de modèle à l’aide de stratégies de service intégrées et personnalisées.

Définir les services d’IA que les équipes peuvent utiliser

Inscrivez des ressources IA en tant qu’objets sécurisables du catalogue Unity, puis accordez et révoquez l’accès avec les mêmes privilèges que ceux que vous utilisez pour les tables et les volumes. Les agents sont régis par ces mêmes éléments sécurisables : un agent est inscrit en tant que modèle catalogue Unity, et les outils qu’il appelle sont régis en tant que services, fonctions et connexions MCP.

Sujet	Descriptif
Modèles	Régir les modèles ML inscrits, y compris les modèles de base hébergés par Azure Databricks, avec des privilèges de catalogue Unity.
Autorisations de modèle de base	Limitez les modèles de base hébergés par Azure Databricks que votre organisation peut accéder, à l’échelle du compte ou par groupe.
Outils MCP	Gérer les serveurs MCP enregistrés en tant qu’objets sécurisables d’Unity Catalog, grâce au filtrage des outils et aux stratégies de service.
Outils personnalisés	Régissez les fonctions du catalogue Unity que les agents utilisent en tant qu’outils, avec les mêmes privilèges que ceux que vous utilisez pour les données.
Connexions HTTP	Régissez les connexions du catalogue Unity utilisées pour atteindre les API externes et les serveurs MCP.
Créer des services de modèles	Définissez et partagez des services de modèles en tant qu’objets sécurisables d’Unity Catalog entre les espaces de travail.

Acheminer et gérer le trafic IA

Unity AI Gateway achemine les demandes vers vos services de modèle et MCP à partir d’un plan de contrôle central, afin de pouvoir gérer la capacité, la disponibilité et les dépenses entre les fournisseurs.

Sujet	Descriptif
Appliquer des limites de débit	Appliquez les limites de consommation aux services de modèle et aux services MCP pour gérer la capacité et le coût.
Configurer la répartition du trafic et les mécanismes de basculement	Répartissez les requêtes entre plusieurs backends de modèles et mettez en place un mécanisme de basculement afin d’augmenter la disponibilité.
Gérer les budgets	Surveillez les dépenses et définissez les seuils par utilisateur et les limites matérielles.

Note

Les fonctionnalités unity AI Gateway n’entraînent pas de frais pendant la version bêta.

Définir des garde-fous et des stratégies d’accès

Les stratégies de service, également appelées garde-fous, contrôlent la façon dont chaque demande et réponse continue, en fonction de son contenu et de la personne qui effectue l’appel.

Sujet	Descriptif
Stratégies de service pour les objets sécurisables d’IA	La façon dont les stratégies de service régissent le contenu des demandes et des réponses aux services IA, à l’aide de stratégies intégrées et personnalisées.
Créer et attacher une stratégie de service	Comment écrire une fonction de stratégie de service et l’attacher à un service MCP ou un service de modèle.

Surveiller l’utilisation, le coût et les risques

Suivez l’activité, les dépenses et les résultats sur tous les services Unity AI Gateway.

Sujet	Descriptif
Surveiller l’utilisation	Effectuez le suivi des demandes, de l’utilisation des jetons et de la latence pour les services de modèle à l’aide de tables système.
Analyser le coût	Attribuer le coût d’Azure Databricks aux services, aux modèles cibles, aux identités et aux balises.
Auditer les demandes et les réponses	Journaliser les requêtes et les réponses dans les tables Delta de Unity Catalog à des fins de surveillance et de débogage.

Points de terminaison de mise en service de modèles (précédent)

La version précédente de la passerelle AI a des fonctionnalités de gouvernance pour les points de terminaison de service de modèle au niveau de l’espace de travail, notamment les points de terminaison de modèle externe, les points de terminaison de l’API Foundation Model et les points de terminaison de modèle personnalisés.

Sujet	Descriptif
Passerelle IA pour le service de points de terminaison	Découvrez les fonctionnalités de la passerelle IA pour gérer les points de terminaison, ainsi que les caractéristiques prises en charge et les limitations.
Configurer AI Gateway sur des points de terminaison de service de modèle	Configurez les fonctionnalités de la passerelle IA, telles que le suivi de l’utilisation, la journalisation des charges utiles, les limitations de débit et les garde-fous sur un point de terminaison de modèle en service de modèles.
Surveiller les modèles servis à l’aide de tables d’inférence compatibles avec AI Gateway	Surveillez les modèles servis à l’aide de tables d’inférence compatibles avec la passerelle AI.