Exécuter des packages SSIS dans Azure à partir de SSDT
S’APPLIQUE À : Azure Data Factory
Azure Synapse Analytics
Conseil
Essayez Data Factory dans Microsoft Fabric, une solution d’analyse tout-en-un pour les entreprises. Microsoft Fabric couvre tous les aspects, du déplacement des données à la science des données, en passant par l’analyse en temps réel, l’aide à la décision et la création de rapports. Découvrez comment démarrer un nouvel essai gratuitement !
Cet article décrit la fonctionnalité des projets SQL Server Integration Services (SSIS) pour Azure sur SQL Server Data Tools (SSDT). Il vous permet d’évaluer la compatibilité cloud de vos packages SSIS et de les exécuter sur Azure-SSIS Integration Runtime (IR) dans Azure Data Factory (ADF). Vous pouvez utiliser cette fonctionnalité pour tester vos packages existants avant d’effectuer une opération lift-and-shift ou de les migrer vers Azure, ou de développer de nouveaux packages à exécuter dans Azure.
Grâce à cette fonctionnalité, vous pouvez attacher un runtime d’intégration Azure-SSIS nouvellement créé ou existant aux projets SSIS, puis y exécuter vos packages. Nous prenons en charge l’exécution de packages à déployer dans le catalogue SSIS (SSISDB) hébergé par votre serveur Azure SQL Database ou votre instance gérée dans le modèle de déploiement de projet. Nous prenons également en charge l’exécution de packages à déployer dans le système de fichiers, Azure Files ou une base de données SQL Server (MSDB) hébergés par votre instance gérée Azure SQL dans le modèle de déploiement de package.
Conditions préalables requises
Pour utiliser cette fonctionnalité, téléchargez et installez la dernière version de SSDT avec l’extension de projets SSIS pour Visual Studio ici. Vous pouvez également télécharger et installer la dernière version de SSDT en tant que programme d’installation autonome ici.
Projets SSIS pour Azure
Création de projets SSIS pour Azure
Sur SSDT, vous pouvez créer de nouveaux projets SSIS pour Azure à l’aide du modèle Projet Integration Services (pour Azure).
Une fois le projet pour Azure créé, vous êtes invité à vous connecter à SSIS dans Azure Data Factory.
Si vous souhaitez vous connecter à votre runtime d’intégration Azure-SSIS immédiatement, reportez-vous à Connexion à Azure-SSIS IR pour plus d’informations. Vous pouvez également vous connecter ultérieurement en cliquant avec le bouton droit sur le nœud de votre projet dans la fenêtre Explorateur de solutions de SSDT pour afficher un menu. Ensuite, sélectionnez l’élément Se connecter à SSIS dans Azure Data Factory dans le sous-menu SSIS dans Azure Data Factory.
Activation pour Azure des projets SSIS existants
Pour les projets SSIS existants, vous pouvez les activer pour Azure en procédant comme suit :
Cliquez avec le bouton droit sur le nœud de votre projet dans la fenêtre Explorateur de solutions de SSDT pour afficher un menu. Ensuite, sélectionnez l’élément Projet pour Azure dans le sous-menu SSIS dans Azure Data Factory pour lancer l’Assistant de projet pour Azure.
Dans la page Sélectionner la configuration Visual Studio, sélectionnez votre configuration Visual Studio pour appliquer les paramètres d’exécution de package dans Azure. Vous pouvez également en créer une si vous ne l’avez pas déjà fait, voir Création d’une configuration Visual Studio. Nous vous recommandons d’avoir au moins deux configurations Visual Studio différentes pour les exécutions de package dans les environnements locaux et cloud, afin de pouvoir activer Azure pour votre projet par rapport à la configuration cloud. De cette façon, si vous avez paramétré votre projet ou vos packages, vous pouvez attribuer des valeurs différentes à vos paramètres de projet ou de package à l’exécution en fonction des différents environnements d’exécution (sur votre ordinateur local ou dans Azure). Pour obtenir un exemple, consultez Basculement d’environnement d’exécution des packages.
L’activation pour Azure de vos projets SSIS existants implique que vous définissiez leur version de serveur cible en tant que version la plus récente prise en charge par Azure-SSIS IR. Azure-SSIS IR est actuellement basé sur SQL Server 2017. Vérifiez que vos packages ne contiennent pas d’autres composants qui ne sont pas pris en charge sur SQL Server 2017. Veillez également à ce que tous les composants supplémentaires compatibles aient également été installés sur votre runtime d’intégration Azure-SSIS via des configurations personnalisées, voir Personnalisation de votre runtime d’intégration Azure-SSIS. Sélectionnez le bouton Suivant pour continuer.
Consultez Connexion à Azure-SSIS IR pour terminer la connexion de votre projet à Azure-SSIS IR.
Connecter des projets pour Azure à SSIS dans Azure Data Factory
En connectant vos projets pour Azure à SSIS dans ADF, vous pouvez télécharger vos packages dans Azure Files et les exécuter sur le runtime d'exécution Azure-SSIS IR. Pour ce faire, procédez comme suit :
Dans la page Introduction à SSIS dans ADF, lisez l’introduction et sélectionnez le bouton Suivant pour continuer.
Dans la page Sélectionner SSIS IR dans ADF, sélectionnez votre instance ADF existante et le runtime d’intégration Azure-SSIS pour exécuter des packages. Vous pouvez également en créer si vous n’en avez pas.
- Pour sélectionner votre runtime d'exécution Azure-SSIS IR existant, sélectionnez d’abord l’abonnement Azure et l'instance ADF qui conviennent.
- Si vous sélectionnez une instance ADF existante sans Azure-SSIS IR, sélectionnez le bouton Créer un runtime d’intégration SSIS pour en créer un sur le portail ADF. Une fois que vous l’avez créé, vous pouvez revenir à cette page pour sélectionner votre nouveau runtime d’intégration Azure-SSIS.
- Si vous sélectionnez un abonnement Azure existant sans ADF, sélectionnez le bouton Créer un runtime d’intégration SSIS pour lancer l’Assistant de création d’un runtime d’intégration. Dans l’Assistant, vous pouvez entrer votre emplacement et votre préfixe désignés pour que nous puissions créer automatiquement un groupe de ressources Azure, une fabrique de données et un runtime d’intégration SSIS en votre nom, nommés selon le modèle suivant : YourPrefix-RG/DF/IR-YourCreationTime. Une fois que vous l’avez créé, vous pouvez revenir à cette page pour sélectionner votre nouvelle instance ADF et votre nouveau runtime d’intégration Azure-SSIS.
Dans la page Sélectionner Stockage Azure, sélectionnez votre compte Stockage Azure pour charger des packages dans Azure Files. Vous pouvez également en créer un si vous n’en avez pas.
- Pour sélectionner votre compte Stockage Azure existant, sélectionnez d’abord l’abonnement Azure qui convient.
- Si vous sélectionnez le même abonnement Azure que votre runtime d’intégration Azure-SSIS qui n’a pas de compte Stockage Azure, sélectionnez le bouton Créer un stockage Azure. Nous en créerons automatiquement un nouveau en votre nom au même emplacement que votre runtime d’intégration Azure-SSIS, nommé en combinant un préfixe de votre nom de runtime d’intégration Azure-SSIS et sa date de création. Une fois que vous l’avez créé, vous pouvez revenir à cette page pour sélectionner votre nouveau compte Stockage Azure.
- Si vous sélectionnez un autre abonnement Azure sans compte Stockage Azure, sélectionnez le bouton Créer Stockage Azure pour en créer un sur le portail Azure. Une fois que vous l’avez créé, vous pouvez revenir à cette page pour sélectionner votre nouveau compte Stockage Azure.
Sélectionnez le bouton Se connecter pour terminer la connexion de votre projet à Azure-SSIS IR. Nous afficherons votre runtime d’intégration Azure-SSIS et votre compte Stockage Azure sous le nœud Ressources Azure liées dans la fenêtre Explorateur de solutions de SSDT. Nous actualiserons et afficherons régulièrement l’état de votre runtime d’intégration Azure-SSIS ici. Vous pourrez gérer votre runtime d’intégration Azure-SSIS en cliquant avec le bouton droit sur son nœud pour afficher un menu, puis en sélectionnant l’élément Démarrer\Arrêter\Gérer afin d’accéder au portail ADF pour le faire.
Évaluer le projet\les packages SSIS pour les exécutions dans Azure
Évaluation d’un ou de plusieurs packages
Avant d’exécuter vos packages dans Azure, vous pouvez les évaluer pour détecter les éventuels problèmes de compatibilité avec le cloud. Il s’agit notamment des bloqueurs de migration et des informations supplémentaires que vous devez connaître.
Vous avez la possibilité d’évaluer les différents paquets un par un ou tous les paquets en même temps dans le cadre de votre projet.
Dans la fenêtre Rapport d’évaluation de SSDT, vous pouvez trouver tous les problèmes potentiels de compatibilité cloud qui ont été signalés, chacun avec sa propre description détaillée et ses recommandations. Vous pouvez également exporter le rapport d’évaluation dans un fichier CSV qui peut être partagé avec toute personne qui doit atténuer ces problèmes.
Suppression des règles d’évaluation
Une fois que vous êtes certain que certains problèmes potentiels de compatibilité cloud ne sont pas applicables ou qu’ils ont été correctement atténués dans vos packages, vous pouvez supprimer les règles d’évaluation correspondantes qui les signalent. Cela permet de réduire le bruit dans les rapports d’évaluation suivants.
Sélectionnez le lien Configurer la suppression des règles d’évaluation dans la fenêtre Rapport d’évaluation de SSDT pour afficher la fenêtre Paramètres de suppression d’une règle d’évaluation, dans laquelle vous pouvez sélectionner les règles d’évaluation à supprimer.
Vous pouvez également cliquer avec le bouton droit sur le nœud de votre projet dans la fenêtre Explorateur de solutions de SSDT pour afficher un menu. Sélectionnez l’élément Paramètres pour Azure dans le sous-menu SSIS dans Azure Data Factory pour afficher une fenêtre contenant les pages de propriétés de votre projet. Sélectionnez la propriété ID des règles d’évaluation supprimées dans la section Paramètres pour Azure. Enfin, cliquez sur le bouton de sélection ( … ) pour afficher la fenêtre Paramètres de suppression d’une règle d’évaluation, dans laquelle vous pouvez sélectionner les règles d’évaluation à supprimer.
Exécuter des packages SSIS dans Azure
Configuration des paramètres pour Azure
Avant d’exécuter vos packages dans Azure, vous pouvez choisir de configurer vos paramètres pour Azure pour eux. Par exemple, vous pouvez activer l’authentification Windows sur votre runtime d’intégration Azure-SSIS pour accéder aux magasins de données locaux/cloud en procédant comme suit :
Cliquez avec le bouton droit sur le nœud de votre projet dans la fenêtre Explorateur de solutions de SSDT pour afficher un menu. Ensemble, sélectionnez l’élément Paramètres pour Azure dans le sous-menu SSIS dans Azure Data Factory pour afficher une fenêtre contenant les pages de propriétés de votre projet.
Sélectionnez la propriété Activer l’authentification Windows dans la section Paramètres pour Azure, puis sélectionnez True dans son menu déroulant. Ensuite, sélectionnez la propriété Informations d’authentification Windows, puis sélectionnez le bouton de sélection ( … ) pour afficher la fenêtre Informations d’authentification Windows.
Entrez vos informations d’authentification Windows. Par exemple, pour accéder à Azure Files, vous pouvez entrer
Azure
,YourStorageAccountName
etYourStorageAccountKey
pour le domaine, le nom d’utilisateur et le mot de passe, respectivement.
Vérifier les exécutions des packages
Après avoir connecté vos projets pour Azure à SSIS dans ADF, évalué leur compatibilité cloud et atténué les problèmes potentiels, vous pouvez exécuter/tester vos packages sur Azure-SSIS IR.
Sélectionnez le bouton Démarrer dans la barre d’outils SSDT pour dérouler un menu. Ensuite, sélectionnez l’élément Exécuter dans Azure.
Vous pouvez également cliquer avec le bouton droit sur le nœud de votre package dans la fenêtre Explorateur de solutions de SSDT pour afficher un menu. Ensuite, sélectionnez l’élément Exécuter le package dans Azure.
Remarque
L'exécution de vos packages dans Azure implique que vous exécutiez Azure-SSIS IR et dès lors, si votre runtime d'exécution Azure-SSIS IR est arrêté, vous serez invité à le démarrer. En dehors des réglages personnalisés, ce processus devrait se terminer dans les 5 minutes. Toutefois, il peut prendre de 20 à 30 minutes environ pour le runtime d’intégration Azure-SSIS se joignant à un réseau virtuel. Après avoir exécuté vos packages dans Azure, vous pouvez arrêter votre runtime d’intégration Azure-SSIS pour gérer son coût d’exécution en cliquant avec le bouton droit sur son nœud dans la fenêtre Explorateur de solutions de SSDT afin d’afficher un menu, puis en sélectionnant l’élément Démarrer\Arrêter\Gérer qui vous renvoie vers le portail ADF pour le faire.
Utilisation de la tâche d’exécution de package
Si vos packages contiennent des tâches d’exécution de package faisant référence à des packages enfants stockés sur des systèmes de fichiers locaux, suivez ces étapes supplémentaires :
Chargez les packages enfants dans Azure Files sous le même compte Stockage Azure connecté à vos projets et récupérez leur nouveau chemin d’accès UNC (convention d’affectation des noms), par exemple
\\YourStorageAccountName.file.core.windows.net\ssdtexecution\YourChildPackage1.dtsx
.Remplacez le chemin d’accès au fichier de ces packages enfants dans le gestionnaire de connexion au fichier des tâches d’exécution de package par leur nouveau chemin d’accès UNC.
- Si l’ordinateur local qui exécute SSDT n’est pas en mesure d’accéder au nouveau chemin d’accès UNC, vous pouvez l’entrer dans le panneau Propriétés du gestionnaire de connexion au fichier.
- Vous pouvez également utiliser une variable pour le chemin d’accès au fichier afin d’attribuer la valeur qui convient à l’exécution.
Si vos packages contiennent des tâches d’exécution de package faisant référence à des packages enfants dans le même projet, aucune configuration supplémentaire n’est requise.
Changement du niveau de protection des packages
L’exécution de packages SSIS dans Azure ne prend pas en charge les niveaux de protection EncryptSensitiveWithUserKey/EncryptAllWithUserKey. Par conséquent, si vos packages sont configurés pour les utiliser, nous les convertirons temporairement en utilisant les niveaux de protection EncryptSensitiveWithPassword/EncryptAllWithPassword, respectivement. Nous générons également aléatoirement des mots de passe de chiffrement lorsque nous chargerons vos packages dans Azure Files pour les exécuter sur votre runtime d’intégration Azure-SSIS.
Notes
Si vos packages contiennent des tâches d’exécution de packages faisant référence à des packages enfants configurés pour utiliser les niveaux de protection EncryptSensitiveWithUserKey/EncryptAllWithUserKey, vous devez reconfigurer manuellement ces packages pour utiliser respectivement les niveaux de protection EncryptSensitiveWithPassword/EncryptAllWithPassword avant de les exécuter.
Si vos packages sont déjà configurés pour utiliser les niveaux de protection EncryptSensitiveWithPassword/EncryptAllWithPassword, nous les garderons inchangés. Nous continuerons à générer aléatoirement des mots de passe de chiffrement lorsque nous chargerons vos packages dans Azure Files pour les exécuter sur votre runtime d’intégration Azure-SSIS.
Basculement d’environnement d’exécution des packages
Si vous paramétrez votre projet/vos packages dans le modèle de déploiement de projet, vous pouvez créer plusieurs configurations Visual Studio pour basculer entre les environnements d’exécution de package. De cette façon, vous pouvez attribuer des valeurs spécifiques à l’environnement à vos paramètres de projet/package à l’exécution. Nous vous recommandons d’avoir au moins deux configurations Visual Studio différentes pour les exécutions de package dans les environnements locaux et cloud, afin de pouvoir activer Azure pour vos projets par rapport à la configuration cloud. Voici un exemple étape par étape de basculement d’environnement d’exécution des packages entre votre ordinateur local et Azure :
Supposons que votre package contienne une tâche de système de fichiers qui définit les attributs d’un fichier. Lorsque vous l’exécutez sur votre ordinateur local, il définit les attributs d’un fichier stocké sur votre système de fichiers local. Lorsque vous l’exécutez sur votre runtime d’intégration Azure-SSIS, vous souhaitez qu’il définisse les attributs d’un fichier stocké dans Azure Files. Tout d’abord, créez un paramètre de package de type chaîne et nommez-le FilePath pour contenir la valeur du chemin d’accès du fichier cible.
Ensuite, sur la page Général de la fenêtre Éditeur de tâche de système de fichiers, paramétrez la propriété SourceVariable dans la section Connexion source avec le paramètre de package FilePath.
Par défaut, vous disposez d’une configuration Visual Studio existante pour les exécutions de packages dans l’environnement local nommée Développement. Créez une configuration Visual Studio pour les exécutions de packages dans l’environnement cloud nommée Azure, voir Création d’une configuration Visual Studio, si ce n’est déjà fait.
Lorsque vous consultez les paramètres de votre package, sélectionnez le bouton Ajouter des paramètres aux configurations pour ouvrir la fenêtre Gérer les valeurs de paramètre pour votre package. Ensuite, attribuez des valeurs différentes pour le chemin d’accès du fichier cible au paramètre de package FilePath dans les configurations Développement et Azure.
Activez pour Azure votre projet par rapport à la configuration cloud, voir Activation pour Azure des projets SSIS existants, si ce n’est déjà fait. Ensuite, configurez les paramètres pour Azure pour activer l’authentification Windows pour que votre runtime d’intégration Azure-SSIS puisse accéder à Azure Files, voir Configuration des paramètres pour Azure, si vous ne l’avez pas déjà fait.
Exécutez votre package dans Azure. Vous pouvez rebasculer votre environnement d’exécution de package vers votre ordinateur local en sélectionnant la configuration Développement.
Utilisation du fichier de configuration de package
Si vous utilisez des fichiers config de package dans le modèle de déploiement de package, vous pouvez attribuer des valeurs spécifiques à l’environnement à vos propriétés de package à l’exécution. Nous chargerons automatiquement ces fichiers avec vos packages dans Azure Files pour les exécuter sur votre runtime d’intégration Azure-SSIS.
Vérifier les journaux d’exécution des packages
Après le démarrage de l’exécution de votre package, nous allons mettre en forme et afficher ses journaux dans la fenêtre Progression de SSDT. Pour un package à exécution longue, nous mettrons régulièrement à jour son journal. Vous pouvez annuler immédiatement l’exécution de votre package en sélectionnant le bouton Arrêter dans la barre d’outils SSDT. Vous pouvez également rechercher temporairement les données brutes de ses journaux sous le chemin d’accès UNC suivant : \\<YourStorageAccountName>.file.core.windows.net\ssdtexecution\<YourProjectName-FirstConnectTime>\<YourPackageName-tmp-ExecutionTime>\logs
, mais nous les nettoierons au bout d’un jour.
Limites actuelles
- SSDT pour Azure prend en charge uniquement les régions de clouds commerciaux/mondiaux et non les régions des clouds gouvernementaux/nationaux pour l’instant.
Contenu connexe
Lorsque l’exécution de vos packages dans Azure à partir de SSDT vous convient, vous pouvez les déployer et les exécuter en tant qu’activités Exécuter un package SSIS dans les pipelines ADF. Pour plus d’informations, consultez Exécution de packages SSIS en tant qu’activités Exécuter un package SSIS dans les pipelines ADF.