pipeline reuse issues

Question

Hi, I have an issue with reusing the cache from previous steps in my pipeline. I added:

is_deterministic: True in the YAML config for all steps, and set pipeline_job.settings.force_rerun = False.

However, if I encounter an issue in step 7, I have to wait for all steps from 1 to 6 to rerun, which causes a loss of time and money. Is there any way I can fix this?

Answer 1

Bonjour Mouaad et merci pour ces précisions:

Pour déterminer quels scripts ont été modifiés et n’exécuter que les étapes correspondantes, vous pouvez suivre ces étapes :

• Avant de lancer la pipeline, examinez les scripts que vous avez modifiés. Assurez-vous de connaître les fichiers qui ont été mis à jour.
• Si vous n’utilisez pas déjà Git ou un autre système de contrôle de version, je vous recommande de le faire. En utilisant Git, vous pouvez facilement voir les différences entre les versions précédentes et actuelles de vos scripts. Cela vous permettra de cibler spécifiquement les fichiers modifiés lors de l’exécution de la pipeline.
• Dans votre pipeline, spécifiez explicitement les dépendances entre les étapes. Si une étape dépend uniquement d’un ou de quelques scripts, assurez-vous de le déclarer correctement. Ainsi, seules les étapes nécessaires seront exécutées.
• Vous pouvez ajouter des conditions à vos étapes pour déterminer si elles doivent être exécutées.

En complément voici deux articles Microsoft qui pourraient vous être utiles:

• Exécuter des commandes Git dans un script
• Générer des dépôts Git Azure Repos ou Git TFS

A bientôt

Alexis

Si cette réponse a répondu à votre question, veuillez « Accepter comme réponse » et voter en utilisant « Pouce levé » afin que la pertinence de ce message s’améliore lorsque quelqu’un dans la communauté recherche une requête similaire

Answer 2

Bonjour Alexis,

Merci pour votre retour, cela m'a beaucoup aidé. Cependant, j'ai remarqué un problème : lorsque je modifie un script et que je lance la pipeline, elle met à jour tous les scripts. De ce fait, à l'exécution, elle considère ces scripts comme nouveaux, change leurs ContentSnapshotId et exécute toutes les étapes.

Y a-t-il un moyen de déterminer que seuls les scripts modifiés seront mis à jour ?

Answer 3

Bonjour Mourad,

Merci d'avoir sollicité la communauté Q&A France.

Pour améliorer le temps de création et éviter la réexécution inutile des étapes, vous pouvez tirer parti de la mise en cache du pipeline dans Azure Pipelines. Voici comment cela fonctionne :

• Ajoutez une tâche de cache à votre pipeline. Cette tâche restaure le cache en fonction des entrées fournies lors d’une exécution. Si aucun cache n’est trouvé, l’étape se termine et l’étape suivante du travail s’exécute.
• Une fois que toutes les étapes du travail ont été exécutées avec succès, une étape spéciale « Post-travail : Cache » est automatiquement ajoutée et déclenchée pour chaque étape de « restauration du cache » qui n’a pas été ignorée. Cette étape est responsable de l’enregistrement du cache.

Concernant la configuration voici les différents points à effectuer et vérifier :

• Spécifiez le chemin du dossier que vous souhaitez mettre en cache (il peut s’agir d’un chemin absolu ou relatif).
• Définissez la clé pour identifier le cache que vous souhaitez restaurer ou enregistrer. La clé peut être composée de valeurs de chaîne, de chemins de fichier ou de modèles de fichier.

N’oubliez pas que les caches sont immuables, ce qui signifie que leur contenu ne peut pas être modifié une fois créés. Pensez également à utiliser des artefacts de pipeline lorsque vous devez partager des fichiers spécifiques entre des tâches et à mettre en cache lorsque vous souhaitez améliorer le temps de génération en réutilisant des fichiers d'exécutions précédentes.

Enfin voici quelques articles relatifs aux actions proposées qui pourront vous être utiles:

• Mise en cache du pipeline
• Comment déboguer les problèmes de réutilisation de pipeline dans Azure Machine Learning ?
• Caching and faster artifacts in Azure Pipelines
• How to re-use previously created workspace across stages

A bientôt

Alexis

Si cette réponse a répondu à votre question, veuillez « Accepter comme réponse » et voter en utilisant « Pouce levé » afin que la pertinence de ce message s’améliore lorsque quelqu’un dans la communauté recherche une requête similaire

Answer 4

Bonjour Mouaad,

Merci pour ces précisions.

Voici plusieurs choses à vérifier:

• Assurez-vous que force_rerun est défini sur False pour chaque étape de votre pipeline. Cela indique à AzureML de ne pas réexécuter l’étape si elle a déjà été exécutée avec succès et que les entrées n’ont pas changé.
• Spécifiez explicitement les dépendances entre les étapes. Si une étape dépend des sorties d’une étape précédente, assurez-vous de le déclarer correctement dans votre pipeline.
• Assurez-vous que les sorties des étapes précédentes sont correctement enregistrées et disponibles pour les étapes suivantes. Vous pouvez vérifier cela en consultant les journaux d’exécution de votre pipeline.
• Si vous modifiez uniquement le code d’une étape, vous pouvez réexécuter sélectivement cette étape sans recommencer toute la pipeline. Utilisez l’interface AzureML Studio ou l’API Python pour réexécuter une seule étape.

A bientôt

Alexis

Si cette réponse a répondu à votre question, veuillez « Accepter comme réponse » et voter en utilisant « Pouce levé » afin que la pertinence de ce message s’améliore lorsque quelqu’un dans la communauté recherche une requête similaire