Mettez à niveau vos pipelines de Azure Data Factory vers Fabric

Vos pipelines Azure Data Factory alimentent déjà les flux de travail critiques. Cet article vous guide tout au long de la migration de pipelines Azure Data Factory (ADF) vers Fabric Data Factory à l’aide de l’expérience de migration intégrée. Vous pouvez commencer à partir de Azure Data Factory ou d’un espace de travail Fabric.

L’expérience de migration vous aide à :

  • Évaluez la préparation du pipeline directement dans Azure Data Factory.
  • Comprendre les lacunes de compatibilité au niveau du pipeline et de l’activité.
  • Migrez les pipelines pris en charge vers un espace de travail Fabric.
  • Planifiez les étapes suivantes pour les éléments qui ont besoin de mises à jour ou qui seront bientôt disponibles.

Cette approche d’évaluation première vous permet de mettre à niveau des pipelines à votre propre rythme et de valider les résultats avant de changer de charge de travail de production.

Guide pratique pour démarrer la migration

Vous pouvez commencer à migrer vos pipelines Azure Data Factory à partir de l’un des deux points d’entrée :

Point d’entrée Idéal pour Étape de démarrage
À partir de Azure Data Factory Exécution d’une évaluation complète de la préparation du pipeline avant la migration Option A : Démarrer à partir de Azure Data Factory
Depuis un espace de travail Fabric Montage et migration directs lorsque vous savez déjà quelle fabrique transférer. Option B : Démarrer à partir de Fabric

Les deux chemins convergent à l’étape 4 : Migrer des pipelines.

Prerequisites

Avant de commencer, vérifiez que vous disposez des points suivants :

  • Instance de Azure Data Factory existante avec des pipelines.
  • Accès à un client Microsoft Fabric.
  • Un espace de travail Fabric dans le même locataire Microsoft Entra ID que l’instance d'Azure Data Factory.
  • Si vous commencez à partir de Fabric : un espace de travail Fabric où vous disposez d’au moins des autorisations de Contributeur.

Option A : Démarrer à partir de Azure Data Factory

Étape 1 : Évaluer vos pipelines pour la migration

Pour exécuter l’évaluation de la migration, dans votre canevas de création Azure Data Factory, sélectionnez Migrate vers Fabric (préversion)>Get démarré (préversion) pour évaluer les pipelines et les activités de préparation à la migration.

Screenshot montrant comment exécuter l’évaluation de migration Azure Data Factory.

Étape 2 : Examiner et comprendre les résultats de l’évaluation

L’usine et les pipelines individuels sont classés selon un état de préparation :

État Meaning
Prêt Prêt pour la migration
Révision requise. Nécessite des modifications avant la migration, telles que les paramètres globaux
Bientôt disponible Prise en charge en cours ; migrer ultérieurement
Non compatible Aucun équivalent dans Fabric. Refactorisation nécessaire.

Pour plus d’informations sur la façon d’explorer les détails au niveau de l’activité, consultez Ce que signifient les états d’évaluation.

Vous pouvez également exporter vos résultats d’évaluation vers un fichier CSV pour prendre en charge la planification de révision et de correction hors connexion.

Screenshot montrant les résultats de l’évaluation de migration Azure Data Factory.

Étape 3 : Sélectionnez un espace de travail Fabric et montez votre Azure Data Factory

Après avoir examiné l’évaluation, sélectionnez Next pour monter votre Azure Data Factory dans un espace de travail Fabric et poursuivre le flux de migration dans Fabric. Le montage vous permet de référencer votre instance de Azure Data Factory (ADF) à l’intérieur d’un espace de travail Fabric sans migrer, copier ou modifier l’environnement Azure Data Factory.

Capture d'écran montrant la sélection de l’espace de travail dans Fabric pour le montage d'Azure Data Factory.

Une fois le montage terminé, sélectionnez Continue dans Fabric pour suivre les étapes de migration.

Screenshot montrant l’option Continuer dans Fabric après le montage réussi.

Passez à l’étape 4 : Migrer des pipelines.

Option B : Démarrer à partir de Fabric

  1. Ouvrez votre espace de travail Fabric.
  2. Dans la barre d’outils de l’espace de travail, sélectionnez Migrer.
  3. Dans le panneau Migrate vers Fabric, sous Migration vers les notebooks, les pools Spark et plus encore, sélectionnez Data Factory.

Screenshot montrant le panneau Migrer vers Fabric dans un espace de travail Fabric avec l’option Data Factory mise en surbrillance.

  1. Sélectionnez l’instance Azure Data Factory que vous souhaitez monter sur cet espace de travail.

Screenshot montrant l’expérience de montage à partir du point de terminaison Migrate dans Fabric.

  1. Une fois le montage terminé, passez à l’étape 4 : Migrer des pipelines.

Note

En partant de Fabric, l'évaluation dans ADF (étapes 1 et 2) est ignorée. Pour passer en revue la préparation du pipeline avant la migration, commencez à partir de Step 1 : évaluez vos pipelines pour la migration à la place dans Azure Data Factory.

Étape 4 : Migrer des pipelines

Poursuivez la migration à partir de l’expérience de Fabric en sélectionnant Migrer vers Fabric (version préliminaire).

Screenshot affichant l’option Migrer vers Fabric dans Fabric.

Sélectionnez les pipelines que vous souhaitez migrer.

Capture d’écran montrant l’option permettant de sélectionner des pipelines pour la migration.

Étape 5 : Mapper les services liés aux connexions de Fabric et effectuer la migration.

Sélectionnez Review connections pour mapper Azure Data Factory services liés aux connexions Fabric, puis sélectionnez Confirm.

L’expérience de migration tente de créer automatiquement des connexions pour les méthodes d’authentification qu’elle peut mapper de manière sécurisée et fiable de Azure Data Factory au modèle de sécurité et d’identité managée de Fabric sans nécessiter d’infrastructure ou de configuration réseau gérée par le client.

Screenshot montrant le mappage des services liés à Fabric connections.

Connexions créées automatiquement pendant la migration (prises en charge uniquement)

Connecteur Authentification pour "Azure Data Factory" Authentification du réseau Fabric
Stockage Blob Azure Clé de compte ; Signature d’accès partagé (SAP) ; Principal de service ; Identité managée affectée par le système Clé de compte ; Signature d’accès partagé (SAP) ; Principal de service ; Identité de l’espace de travail (identité managée affectée par le système)
Azure Data Lake Storage Gen2 Clé de compte ; Signature d’accès partagé (SAP) ; Principal de service ; Identité managée affectée par le système Clé de compte ; Signature d’accès partagé (SAP) ; Principal de service ; Identité de l’espace de travail (identité managée affectée par le système)
SQL Server Authentification de base (authentification SQL) ; Principal de service ; Identité managée affectée par le système Authentification de base ; Principal de service ; Identité de l’espace de travail (identité managée affectée par le système)
Azure SQL Database Authentification de base (authentification SQL) ; Principal de service ; Identité managée affectée par le système Authentification de base ; Principal de service ; Identité de l’espace de travail (identité managée affectée par le système)
Azure Data Explorer (Kusto) Principal de service; Identité gérée assignée par le système Principal de service ; Identité de l’espace de travail (identité managée affectée par le système)
Azure Cosmos DB pour NoSQL Clé de compte Clé de compte
Azure Cosmos DB pour MongoDB Basic authentication Basic authentication
Azure SQL Managed Instance Clé de compte ; Principal de service Authentification de base ; Principal de service
Azure Database pour PostgreSQL Basic authentication Basic authentication
Azure Database pour MySQL Basic authentication Basic authentication
MySQL Basic authentication Basic authentication
PostgreSQL Basic authentication Basic authentication

Pour d’autres connexions, sélectionnez une connexion Fabric existante ou créez de nouvelles connexions à l’aide de l’expérience Obtenir des données moderne ou dans les paramètres de l’espace de travail. Ensuite, sélectionnez Confirmer.

Les pipelines sélectionnés sont migrés dans un dossier dont le nom est préfixé par le nom de la fabrique source suivi de « _Migration », afin de faciliter l’identification et d’éviter les collisions de noms. Un message de confirmation s’affiche lorsque la migration se termine correctement.

Screenshot affichant la réussite de la migration de Azure Data Factory vers Fabric.

Une fois la migration terminée, accédez à votre espace de travail Fabric pour passer en revue les pipelines migrés. Chaque pipeline est créé dans l'espace de travail et préfixé par le nom de sa fabrique source. Vous pouvez ouvrir chaque pipeline pour passer en revue et le valider avant de poursuivre la configuration ou le test.

Capture d’écran montrant le dossier de migration avec les pipelines migrés pour validation.

Note

Si vous ne mappez aucune connexion pendant cette étape, les pipelines migrent toujours. Les activités au sein de ces pipelines sont désactivées et vous pouvez les configurer ultérieurement dans Fabric.

Une fois la migration terminée, validez les pipelines dans l’expérience Fabric Data Factory.

Comportement de migration

  • Les pipelines migrent vers un espace de travail Fabric Data Factory.
  • Les noms de pipeline doivent être uniques dans un espace de travail.
  • Si un pipeline portant le même nom existe déjà, l’outil de migration ignore ce pipeline.
  • Afin de garantir l’unicité, les pipelines migrés adoptent la convention de nommage suivante : <Source factory or workspace name>_<Pipeline name>.
  • Le flux de migration inclut une étape de montage qui vous permet d’afficher votre structure de fabrique existante dans Fabric avant la migration.

Validation post-migration

Après la migration, effectuez les tâches suivantes :

  1. Validez toutes les connexions et informations d’identification.
  2. Recréez des paramètres globaux en tant que bibliothèques de variables.
  3. Réactivez et configurez les déclencheurs (désactivés par défaut).
  4. Exécutez des tests de bout en bout pour confirmer le comportement du pipeline.
  5. Validez les migrations dans un environnement hors production avant de migrer des charges de travail de production.

Qu'est-ce qui est hors du périmètre ?

Les éléments suivants ne sont pas pris en charge dans l’expérience de migration basée sur l’expérience utilisateur aujourd’hui. Les pipelines qui utilisent ces fonctionnalités nécessitent une nouvelle conception ou une autre approche de migration.

Catégorie Élément hors portée Détails
Runtimes d’intégration Runtime d’intégration auto-hébergé (SHIR) Les runtimes d’intégration auto-hébergés ne peuvent pas être migrés. Remplacez par la passerelle de données locale Fabric (OPDG).
Runtime d'intégration de réseau virtuel managé (Managed virtual network IR) / Runtime d'intégration injecté dans un réseau virtuel (VNet - Réseau virtuel) Fabric ne prend pas en charge la migration des runtimes d'intégration de réseau virtuel managé. La passerelle de réseau virtuel Fabric utilise un modèle différent et nécessite une reconfiguration.
SQL Server Integration Services environnement d'exécution d'intégration (SSIS IR) La migration d'infrastructure, y compris les environnements d'exécution pour SQL Server Integration Services, n'est pas prise en charge.
types de charge de travail Azure Data Factory capture de changements de données (CDC) Les charges de travail de capture des modifications de données sont hors du périmètre et ne migrent pas.
Ressources Apache Airflow L'orchestration basée sur un graphique acyclique (DAG) dirigé à partir d'Apache Airflow ne peut pas être migrée vers Fabric.
Unified Structured Query Language (U-SQL) / Azure Data Lake Analytics Services déconseillés et non pris en charge dans Fabric.
Charges de travail d’actualisation multicloud ou Azure Machine Learning La prise en charge de l'identité liée à l'espace de travail est en cours. Ces charges de travail ne migrent pas.
Connecteurs Connecteurs de longue traîne (par exemple, SAP ERP Central Component (ECC), SAP Business Warehouse (BW), Multidimensional Expressions (MDX), SAP Core Data Services (CDS)) Fabric n’a pas de connecteurs équivalents. La nouvelle conception est requise.
Connecteurs SaaS pour le marketing et la finance (HubSpot, Google Ads, QuickBooks, Shopify, Xero) Non pris en charge aujourd’hui.
Déclencheurs et orchestration Déclencheurs d’événements personnalisés Les déclencheurs d’événements personnalisés ne peuvent pas être migrés.
Déclencheurs d’événements de stockage Le soutien sera bientôt disponible.
Déclencheurs de fenêtre glissante Appelée planification basée sur intervalle dans Fabric. Les charges de travail de filigrane et de remplissage doivent être repensées.
Chaînage ou déclencheurs de dépendance La sémantique de chaînage et de déclencheur de dépendance n’est pas encore prise en charge.
Sécurité et authentification Configurations avancées (clés gérées par le client), jetons doubles, flux d’informations d’identification d’identité fédérée (FIC) Les modèles d’authentification d’identité d’espace de travail ou d’authentification de principal de service non pris en charge ne migrent pas.
Authentification basée sur des certificats (activité web) Non pris en charge et nécessite une nouvelle conception.
Prise en charge de l’identité managée attribuée par l’utilisateur (UAMI) Utilisez l’identité de l’espace de travail (WI) comme solution de contournement.
Paramétrage et métadonnées Paramètres globaux Le soutien sera bientôt disponible. Recréez en utilisant les bibliothèques de variables Fabric.
Services liés dynamiques (connexions paramétrables) Non pris en charge. Chaque permutation doit être une connexion distincte et ne peut pas migrer.
Pipelines pilotés par les métadonnées Les modèles liés hautement dynamiques ou pilotés par des jeux de données ne peuvent pas migrer.
Activités et calcul Définition de tâche Spark d'Azure Synapse (SJD) ou bloc-notes Partiellement pris en charge. Nécessite une nouvelle conception dans des blocs-notes Fabric ou des travaux Spark.
Mappage des flux de données (MDF) Pris en charge (préversion). Les flux de données de mappage sont convertis en transformations MDF dans Dataflow Gen2. Consultez Mettre à niveau les flux de données de mappage Azure Data Factory vers Fabric.
Activités Web, webhook ou HTTP avec authentification personnalisée ou en-têtes HTTP Les scénarios d’authentification complexe doivent être reconstruits manuellement.
Paramètres d’environnement du pool de notebooks Non pris en charge. La migration est bloquée.
Prise en charge de l'identité de l'espace de travail pour les activités par lots ou personnalisées Le manque d'identité de l'espace de travail bloque la migration pour ces activités.
Copier l'opération d'upsert dans des tables Lakehouse Non pris en charge. Nécessite une copie vers la préproduction et une opération MERGE de notebooks.

Questions fréquentes (FAQ)

L’évaluation change-t-elle ma fabrique ?

Non. L’évaluation est en lecture seule. Il analyse la configuration de votre fabrique et affiche les résultats dans le volet latéral sans modifier les pipelines, les activités ou les paramètres. Vous pouvez l’exécuter en toute sécurité pour comprendre l’impact de la migration avant d’effectuer une action.

Puis-je réexécuter l’évaluation ou la migration après avoir apporté des modifications ?

Yes. Vous pouvez réexécuter l’évaluation à tout moment pendant la validation. Si vous réexécutez la migration pour les mêmes pipelines, vous devez d’abord supprimer les pipelines précédemment migrés dans Fabric, car les noms de pipeline doivent être uniques dans un espace de travail.

Le déploiement d'Azure Data Factory migre-t-il mes pipelines ?

Non. Le montage n’est qu’un instantané de votre Azure Data Factory existant dans un espace de travail Fabric. Aucun pipeline n’est migré tant que vous n’avez pas démarré explicitement la migration en sélectionnant le bouton Migrer vers Fabric (préversion) dans votre fabrique de données montée dans Fabric.

Les déclencheurs migreront-ils automatiquement ?

Les déclencheurs de planification sont migrés automatiquement, mais désactivés après la migration par conception. Vous devez les réactiver manuellement dans Fabric. Tous les autres déclencheurs doivent être reconfigurés manuellement et réactivés après avoir validé les pipelines migrés.

Les éléments non pris en charge bloquent-ils l’intégralité de la migration ?

Non. Les activités non prises en charge affectent uniquement les pipelines qui les contiennent. D’autres pipelines pris en charge peuvent migrer indépendamment. L’évaluation identifie clairement les pipelines qui nécessitent une nouvelle conception.

Puis-je migrer sans mappage de connexions ?

Yes. Les pipelines migrent toujours, mais les activités qui dépendent des connexions non mappées sont désactivées. Vous devez configurer les connexions Fabric requises et réactiver ces activités avant d’exécuter les pipelines.

Puis-je valider les migrations avant de déplacer des charges de travail de production ?

Yes. Microsoft recommande de valider les migrations dans un environnement hors production, de confirmer les connexions, les déclencheurs et l’exécution de bout en bout avant de migrer des pipelines de production.

Quand certaines variables système se comportent différemment dans Fabric par rapport à Azure Data Factory ?

Ces différences sont attendues à mesure que les plateformes évoluent indépendamment. Vous pouvez généralement les traiter avec un petit ajustement pendant la migration. Par exemple, pipeline().TriggerName il est disponible dans Azure Data Factory, mais n'est actuellement pas pris en charge dans Fabric Data Factory. Si votre logique de pipeline dépend du nom du déclencheur, utilisez les métadonnées d’événement de déclencheur prises en charge ou transmettez le nom du déclencheur explicitement en tant que paramètre de pipeline à la place.