Cycle de vie du stockage d’objets dans le catalogue Unity

Lorsque vous supprimez un objet sécurisable Catalogue Unity (via l’Explorateur de catalogues, SQL DROP, etc.), ce qui se passe dépend du type d’objet et du type de stockage. Cette page décrit le cycle de vie des fichiers de données, la facturation du stockage et les options de récupération après la suppression.

Le type de stockage détermine ce qui se passe dans les fichiers de données

Pour les tables et les volumes, ce qui arrive aux fichiers de données sous-jacents varie selon que la ressource est gérée ou externe. Pour plus d’informations sur cette distinction, voir Ressources managées et externes dans le catalogue Unity.

  • Tables et volumes managés : Unity Catalog contrôle l’emplacement de stockage et le cycle de vie des fichiers de données. Les fichiers de données vivent dans l’emplacement de stockage managé défini au niveau du metastore, du catalogue ou du schéma. Lorsque vous supprimez une table ou un volume managé, Unity Catalog supprime les fichiers de données sous-jacents par le biais d’un cycle de vie multiphase. Les emplacements de stockage géré sont fournis en deux versions :

    • Azure Databricks stockage par défaut : stockage d’objets qui Azure Databricks provisionne et gère dans votre compte Azure Databricks.
    • Stockage managé fourni par le client : emplacement de stockage cloud dans votre compte cloud, configuré au niveau du metastore, du catalogue ou du schéma, qui Azure Databricks écrit et gère les données dans.

    Les deux versions partagent le même cycle de vie des fichiers de données, mais la rétention des fichiers de facturation et de post-suppression diffèrent. Consultez Objets gérés sur le stockage par défaut d’Azure Databricks et sur le stockage fourni par le client.

  • Tables et volumes externes : vous contrôlez l’emplacement et le cycle de vie du stockage. Lorsque vous supprimez une table ou un volume externe, Unity Catalog supprime les métadonnées du metastore, mais les fichiers de données restent dans votre emplacement de stockage cloud.

  • Catalogues étrangers et fédérés : les données se trouvent dans une autre source de données (par exemple, une base de données fédérée via Lakehouse Federation ou un metastore Hive via la fédération hive). Le catalogue Unity contient uniquement les métadonnées de connexion. Lorsque vous supprimez un catalogue étranger, Unity Catalog supprime les métadonnées de connexion. Les données du système source ne sont pas affectées.

Pour d’autres objets sécurisables (catalogues, schémas, vues, fonctions, modèles), la suppression supprime uniquement les métadonnées , il n’existe aucun fichier de données associé à Unity Catalog à gérer. La suppression d’un catalogue ou d’un schéma avec CASCADE supprime les tables et les volumes contenus, chacun en fonction de son propre comportement managé ou externe ci-dessus.

Récupérer un objet supprimé

La façon dont vous récupérez un objet supprimé dépend du type d’objet.

Type d’objet Récupération
Tables, vues matérialisées, tables en continu Utilisez UNDROP dans les 7 jours suivant la suppression. Les vues matérialisées et les tables de streaming doivent avoir été créées à partir d’un pipeline ETL et ce pipeline doit toujours exister.
Catalogues, schémas, volumes, vues, fonctions, modèles Impossible de récupérer après la suppression.

Avertissement

La récupération est limitée dans le temps et s’effectue dans la mesure du possible. Supprimez un objet uniquement après avoir confirmé que vous n’avez plus besoin des données. Utilisez l’option RESTRICT (valeur par défaut) et DROP CATALOGDROP SCHEMA pour empêcher la suppression récursive accidentelle d’objets non vides.

Cycle de vie des données gérées après une suppression

La suppression d’une table managée ou d’un volume ne supprime pas immédiatement les fichiers de données du stockage cloud. Les fichiers de données sont conservés pendant une fenêtre de récupération et supprimés définitivement par la suite.

Phase 1 : Fenêtre de récupération

Pendant les 7 jours suivant la suppression, Unity Catalog conserve les données supprimées de façon réversible afin que vous puissiez récupérer l’objet. Pendant cette fenêtre :

  • Utilisez la commande SQL UNDROP pour récupérer des tables, des vues matérialisées et des tables de diffusion en continu.
  • Unity Catalog conserve les métadonnées de l’objet supprimé et la facturation du stockage continue.

Phase 2 : Purge

Lorsque la fenêtre de récupération de 7 jours se termine, l’objet ne peut plus être récupéré. Unity Catalog supprime définitivement les fichiers de données dans les 48 heures. Pour plus d’informations sur la facturation du stockage dans chaque phase, consultez Facturation du stockage après une suppression.

Objets gérés sur le stockage par défaut d’Azure Databricks par rapport au stockage fourni par le client

Les objets managés peuvent utiliser deux types de stockage managé. Le cycle de vie des données et le comportement de purge d’Unity Catalog sont les mêmes, mais la facturation et la rétention des fichiers après purge diffèrent.

Type de stockage Purge de fichiers
Azure Databricks stockage par défaut (géré par Azure Databricks en votre nom) Unity Catalog supprime définitivement les fichiers de données dans les 48 heures suivant la fin de la fenêtre de récupération.
Stockage managé fourni par le client (emplacement de stockage cloud que vous avez configuré sur le metastore, le catalogue ou le schéma) Unity Catalog supprime définitivement les fichiers de données dans les 48 heures suivant la fin de la fenêtre de récupération. Vos stratégies de stockage cloud (contrôle de version d’objet, suppression réversible, règles de cycle de vie) peuvent conserver les fichiers au-delà de ce point. Votre fournisseur de cloud vous facture le stockage en fonction de ces stratégies.

Pour plus d’informations sur Azure Databricks stockage par défaut, consultez Stockage par défaut dans Databricks. Pour configurer le stockage managé fourni par le client, consultez Spécifier un emplacement de stockage managé dans le catalogue Unity.

Tables et volumes externes

Lorsque vous supprimez une table externe ou un volume externe, Unity Catalog supprime les métadonnées du metastore. Les fichiers de données de votre stockage cloud ne sont pas supprimés. Votre fournisseur de services cloud continue de vous facturer des frais de stockage conformément aux règles de votre bucket.

Pour supprimer les fichiers, supprimez-les directement du stockage cloud.

Catalogues étrangers et fédérés

Un catalogue étranger contient des métadonnées qui font référence à une source de données externe. Lorsque vous supprimez un catalogue étranger, Unity Catalog supprime les métadonnées de connexion. Les données du système source ne sont pas affectées. Azure Databricks ne vous facture pas pour le stockage dans le système source ; la facturation du système source s'applique.

Facturation du stockage après une suppression

Le tableau suivant résume la façon dont Azure Databricks et votre fournisseur de cloud facturent le stockage à chaque phase. Azure Databricks facture uniquement le stockage sur Azure Databricks stockage par défaut et uniquement pendant la fenêtre de récupération : la facturation du stockage s’arrête une fois la fenêtre de récupération de 7 jours passée. Pour le stockage managé fourni par le client et le stockage externe, votre fournisseur de cloud vous facture directement.

Type de stockage Fenêtre de récupération Purge de la phase 2 Après la purge
Géré dans le stockage par défaut d’Azure Databricks Azure Databricks facturé Non facturable par le client (la facturation s’arrête une fois la fenêtre de récupération passée) Sans objet
Géré sur le stockage fourni par le client Fournisseur de cloud facturé Fournisseur de cloud facturé Facturé par le fournisseur de services cloud (régi par les règles de votre bucket)
Tables externes et volumes Fournisseur de cloud facturé (les fichiers ne sont pas supprimés) Fournisseur de cloud facturé Fournisseur de cloud facturé
Catalogues étrangers et fédérés Sans objet Sans objet Sans objet

Après avoir supprimé un objet managé sur le stockage fourni par le client, vous pouvez toujours voir les frais de stockage de votre fournisseur de cloud. Pour réduire ces coûts, vérifiez les règles de gestion des versions des objets, de suppression réversible et de cycle de vie de votre bucket.

Supprimer un objet de l’Explorateur de catalogues

Vous pouvez supprimer des objets catalogue Unity de l’Explorateur de catalogues dans l’interface utilisateur de l’espace de travail. Le cycle de vie des données décrit dans cet article s’applique si vous supprimez un objet de l’Explorateur catalogue ou exécutez une instruction SQL DROP .

Que se passe-t-il lorsque vous supprimez un espace de travail

Par défaut, la suppression d’un espace de travail ne supprime pas automatiquement le catalogue de catalogue Unity par défaut de l’espace de travail. Si le catalogue est conservé, ses tables et volumes managés restent, et la facturation du stockage continue jusqu’à ce que le catalogue soit supprimé.

Azure Databricks offre une option de suppression forcée qui supprime le catalogue d’espaces de travail et ses données dans le cadre de la suppression de l’espace de travail. Consultez Forcer la suppression du catalogue de l’espace de travail. Si le catalogue d’espaces de travail n’est pas supprimé par force, il est conservé après la suppression de l’espace de travail et doit être supprimé manuellement.

Pour plus d’informations sur la suppression de l’espace de travail, consultez Supprimer un espace de travail.

Ressources supplémentaires