Azure Databricks fonctionnalités d’IA

Azure Databricks fournit une plateforme permettant de créer, d’évaluer, de déployer et de surveiller des applications IA (applications IA). Il réunit une suite d’outils qui s’attaquent aux défis liés au développement d’applications IA de niveau entreprise. Azure Databricks s’intègre à des frameworks open source populaires, en ajoutant une gouvernance de niveau entreprise, une observabilité et des outils opérationnels, collectivement appelés LLMOps.

Cette page répertorie les principales fonctionnalités de l’IA, organisées par phases de flux de travail IA.

Interroger l’IA

Azure Databricks rend facilement disponibles les modèles IA de pointe à partir de fournisseurs de modèles principaux via les modèles de base hébergés par Databricks. Vous pouvez également interroger des modèles à partir de fournisseurs externes et de vos modèles personnalisés. Tous ces modèles peuvent être interrogés via l’interface utilisateur, l’API/SDK et les interfaces SQL. Cette option vous permet d’utiliser l’IA pour tous les cas d’usage--- conversation générale, agents complexes, pipelines de données automatisés, analytique des données interactives, etc.

Méthode	Fonctionnalités
Interface utilisateur	Pour le développement, AI Playground fournit une interface utilisateur permettant d’interroger les modèles et agents IA disponibles. Pour les tests, vos agents et applications peuvent être interrogés et évalués par des experts de domaine à l’aide de l’application de révision. Pour la production, vos applications peuvent être hébergées avec une interface utilisateur à l’aide de Databricks Apps pour une utilisation au sein de votre organisation. Pour les applications externes, vous pouvez alimenter les applications orientées utilisateur à l’aide des API Databricks.
API et SDK	Model Service fournit des points de terminaison d’API REST pour interroger des modèles et des agents. Consultez d’autres options de requête , notamment le client OpenAI et le Kit de développement logiciel (SDK) Python Databricks.
SQL	Les fonctions IA fournissent des fonctions SQL spécifiques aux tâches et à usage général pour interroger des modèles et des agents.

Générer l’IA

Azure Databricks fournit un ensemble flexible d’outils pour la création d’applications, d’agents, d’outils et de modèles IA. Il s’agit notamment d’infrastructures basées sur l’interface utilisateur et basées sur le code, qui peuvent toutes optimiser les systèmes IA en fonction de vos données. Vous pouvez tirer parti de n’importe quelle infrastructure IA open source et intégrer des outils personnalisés et des serveurs MCP.

Category	Fonctionnalités
Applications	Databricks Apps fournit un développement et un déploiement d’applications flexibles pour les utilisateurs authentifiés. Les applications personnalisées peuvent être alimentées par les API Databricks.
Agents	Knowledge Assistant fournit le développement et l’optimisation d’agents guidés. AI Playground fournit une interface utilisateur pour le prototypage d’agents appelant des outils. Le code personnalisé et les frameworks open source peuvent être développés et déployés à l’aide d’agents personnalisés ou d’applications Databricks.
Tools	La prise en charge des outils inclut les serveurs MCP et les fonctions de catalogue Unity, qui fournissent toutes deux une gouvernance basée sur le catalogue Unity.
Modèles et invites	L'ingénierie de requête peut être effectuée de manière interactive à l’aide d'AI Playground ou par le biais d’une optimisation pilotée par les données à l’aide de l'optimisation des requêtes MLflow. Ajuster les modèles à l’aide d’AI Runtime.

Préparer et servir des données

Azure Databricks simplifie les données pour l’IA en unifiant la gouvernance des données traditionnelles et des charges de travail IA. Avec toutes les données gérées sous Le catalogue Unity avec des contrôles d’accès affinés, il est facile d’ajuster les limites de l’ingénierie des données et de l’IA pour s’adapter à votre organisation. Les données peuvent être préparées pour l’IA à l’aide d’outils d’ingénierie de données tels que des pipelines Lakeflow. Une table du catalogue Unity peut être servie pour l’IA, à l’aide d’un index vectoriel pour les données non structurées ou d’une table de fonctionnalités pour les données structurées.

Type de données	Fonctionnalités
Non structuré (texte, images, etc.)	La recherche IA indexe automatiquement votre base de connaissances à grande échelle pour la recherche sémantique ou hybride.
Structuré (tableaux)	SQL serverless vous permet d’intégrer des tables et des requêtes SQL dans votre application IA pour l’analytique ou les transformations. Les agents Génie peuvent être utilisés dans des systèmes multi-agents pour répondre aux requêtes en langage naturel sur vos données structurées. Les magasins de fonctionnalités en ligne fournissent un accès aux fonctionnalités en temps réel pour votre application IA.

Déployer et servir l’IA

Azure Databricks fournit des systèmes de service prêts pour la production pour les applications, agents et modèles IA soutenus par Databricks Apps. Ces déploiements évolutifs peuvent être utilisés à la fois pour le service en temps réel et l’inférence par lots. Tous les déploiements s’intègrent à l’observabilité et à l’évaluation et à l’outil de supervision .

Framework de développement	Déploiement et service
Databricks Apps	Les applications et les agents peuvent être déployés à l’aide de Databricks Apps, qui fournit un déploiement basé sur l’interface utilisateur et l’API.
Assistant de Connaissances	L’Assistant de Connaissances automatise le déploiement de votre agent vers les points de terminaison de Model Serving.

Suivre, évaluer et surveiller l’IA

Azure Databricks fournit un MLflow managé pour l’observabilité, l’évaluation et la surveillance de l’IA. Les API open source facilitent l’intégration et la portabilité, tandis que le service géré fournit des points de terminaison prêts pour la production. Le flux MLflow managé par Databricks peut être utilisé pour les applications et agents IA hébergés sur Databricks et hébergés ailleurs.

Category	Fonctionnalités
Suivi et observabilité	Le suivi MLflow vous permet d’instrumenter vos agents et applications IA pour collecter des données de télémétrie et d’observabilité pour l’évaluation, la supervision de production et l’audit.
Evaluation	L’évaluation MLflow vous permet de mesurer la qualité des systèmes IA. Les juges et jeux de données d’évaluation LLM intégrés et personnalisés vous permettent d’adapter l’évaluation à votre cas d’usage.
Monitoring	La surveillance de la production vous permet de mesurer la qualité sur les traces de production, en utilisant les mêmes juges et évaluateurs de l'évaluation effectuée lors du développement.
Commentaires humains	Pendant le développement, l’application de révision vous permet d’exécuter des vérifications d’ambiance rapides à l’aide d’une interface utilisateur de conversation et de recueillir des commentaires d’experts dans les sessions d’étiquetage. Pendant la production, les API vous permettent d’annoter les traces avec les commentaires des utilisateurs.

LLMOps

Azure Databricks fournit une suite complète d’outils pour les opérations d’IA, ou « LLMOps ». La gouvernance unifiée des ressources de données et d’IA sous Le catalogue Unity simplifie et sécurise le déploiement de l’IA au sein d’une organisation. AI Gateway simplifie la gestion des modèles de nombreux fournisseurs de modèles IA. Les bundles MLflow et Declarative Automation fournissent le contrôle de version et l’infrastructure en tant que code pour implémenter des processus LLMOps robustes.

Category	Fonctionnalités
Gouvernance des ressources de données et d’IA	Unity Catalog fournit une gouvernance unifiée pour les ressources de données et d’IA. Les ressources de données incluent des fichiers, des tables, des index vectoriels et des magasins de fonctionnalités. Les ressources IA incluent des modèles, des outils et des connexions pour les serveurs MCP et d’autres API.
Gouvernance des points de terminaison de modèle	AI Gateway fournit une gouvernance et une surveillance centralisées pour les points de terminaison de modèle IA.
Contrôle de version des requêtes	MLflow fournit un registre d’invites, ainsi que le suivi des expériences.
Infrastructure en tant que code	MlOps Stacks, qui est basé sur databricks Assets Bundles, fournit une gestion et un déploiement basés sur le code de l’infrastructure et des flux de travail.

Prise en charge du code source ouvert

Azure Databricks offre une prise en charge complète de l’écosystème open source en pleine croissance pour l’IA.

Pour le développement, vous pouvez utiliser n’importe quel framework open source et le déployer à l’aide de Databricks Apps. Les services Databricks peuvent être utilisés par des outils et applications d’IA tiers à l’aide de serveurs MCPou de l’API REST ou des kits sdk.

Pour l’observabilité, l’évaluation et la supervision, MLflow Tracing fournit une journalisation automatique native pour plus de 20 frameworks d’IA open source, et vous pouvez ajouter un traçage personnalisé à n’importe quel autre framework ou code. Les traces peuvent ensuite être utilisées avec l’évaluation MLflow et la surveillance de la production. Les traces suivent les spécifications de trace OpenTelemetry et peuvent être exportées vers des outils tiers.

Ressources supplémentaires

• Créer des agents sur Azure Databricks
• Open source et MLflow managé sur Azure Databricks