Levenscyclus van objectopslag in Unity Catalog

Wanneer u een beveiligbaar object voor Unity Catalog verwijdert (via Catalog Explorer, SQL DROP, enzovoort), is wat er gebeurt afhankelijk van het objecttype en het opslagtype. Op deze pagina worden de levenscyclus van gegevensbestanden, opslagfacturering en herstelopties na verwijdering beschreven.

Het opslagtype bepaalt wat er met de gegevensbestanden gebeurt

Wat er gebeurt met de onderliggende gegevensbestanden voor tabellen en volumes, is afhankelijk van of de asset wordt beheerd of extern. Zie Beheerde versus externe assets in Unity Catalog voor meer informatie over dit onderscheid.

  • Beheerde tabellen en volumes: Unity Catalog bepaalt de levenscyclus van de opslaglocatie en het gegevensbestand. Gegevensbestanden bevinden zich op de beheerde opslaglocatie die is gedefinieerd op metastore-, catalogus- of schemaniveau. Wanneer u een beheerde tabel of een beheerd volume verwijdert, verwijdert Unity Catalog de onderliggende gegevensbestanden via een levenscyclus met meerdere fasen. Beheerde opslaglocaties zijn in twee varianten:

    • Azure Databricks standaardopslag: Objectopslag die Azure Databricks inrichten en beheren in uw Azure Databricks-account.
    • Door de klant geleverde beheerde opslag: een cloudopslaglocatie in uw cloudaccount, geconfigureerd op metastore-, catalogus- of schemaniveau, waar Azure Databricks gegevens naar schrijft en beheert.

    Beide varianten delen dezelfde levenscyclus voor databestanden, maar facturering en het bewaren van bestanden na verwijdering verschillen. Zie Beheerde objecten in Azure Databricks standaardopslag versus door de klant geleverde opslag.

  • Externe tabellen en volumes: u bepaalt de opslaglocatie en levenscyclus. Wanneer u een externe tabel of volume verwijdert, verwijdert Unity Catalog de metagegevens uit de metastore, maar blijven de gegevensbestanden op uw cloudopslaglocatie.

  • Buitenlandse en federatieve catalogi: Gegevens bevinden zich in een andere gegevensbron (zoals een federatieve database via Lakehouse Federation of een Hive-metastore via Hive-metastorefederatie). Unity Catalog bevat alleen de metagegevens van de verbinding. Wanneer u een refererende catalogus verwijdert, verwijdert Unity Catalog de metagegevens van de verbinding. Gegevens in het bronsysteem worden niet beïnvloed.

Voor andere beveiligbare objecten (catalogi, schema's, weergaven, functies, modellen), worden alleen metagegevens verwijderd. Er zijn geen gekoppelde gegevensbestanden voor Unity Catalog die moeten worden beheerd. Als u een catalogus of schema verwijdert met CASCADE, worden ook de tabellen en volumes die deze bevat verwijderd, elk volgens het hierboven beschreven gedrag voor beheerde of externe objecten.

Een verwijderd object herstellen

Hoe u een verwijderd object herstelt, is afhankelijk van het objecttype.

Objectsoort Recovery
Tabellen, gerealiseerde weergaven, streamingtabellen Gebruik UNDROP binnen 7 dagen na het verwijderen. Gerealiseerde weergaven en streamingtabellen moeten zijn gemaakt op basis van een ETL-pijplijn en die pijplijn moet nog bestaan.
Catalogi, schema's, volumes, weergaven, functies, modellen Kan niet worden hersteld na verwijdering.

Warning

Herstel is tijdgebonden en gebeurt naar beste vermogen. Verwijder een object pas nadat u hebt bevestigd dat u de gegevens niet meer nodig hebt. Gebruik de RESTRICT optie (de standaardinstelling) DROP CATALOG en DROP SCHEMA om onbedoeld recursieve verwijdering van niet-lege objecten te voorkomen.

Levenscyclus van beheerde gegevens na verwijdering

Als u een beheerde tabel of volume verwijdert, worden de gegevensbestanden niet onmiddellijk uit de cloudopslag verwijderd. Gegevensbestanden worden bewaard tijdens een herstelvenster en worden daarna definitief verwijderd.

Fase 1: Herstelvenster

Gedurende 7 dagen na het verwijderen behoudt Unity Catalog de voorlopig verwijderde gegevens, zodat u het object kunt herstellen. Tijdens dit venster:

  • Gebruik de SQL-opdracht UNDROP om tabellen, gematerialiseerde weergaven en streaming-tabellen te herstellen.
  • Unity Catalog behoudt de metagegevens van het verwijderde object en de opslagfacturering wordt voortgezet.

Fase 2: Leegmaken

Wanneer het herstelvenster van 7 dagen afloopt, kan het object niet meer worden hersteld. Unity Catalog verwijdert de gegevensbestanden binnen 48 uur definitief. Zie Opslagfacturering na een verwijdering voor meer informatie over opslagfacturering in elke fase.

Beheerde objecten op Azure Databricks standaardopslag versus door de klant geleverde opslag

Beheerde objecten kunnen twee typen beheerde opslag gebruiken. De levenscyclus van de gegevens en het opschoongedrag van Unity Catalog zijn hetzelfde, maar de facturering en het bewaren van bestanden na de opschoning verschillen.

Opslagtype Bestanden opschonen
Azure Databricks standaardopslag (beheerd door Azure Databricks namens u) Unity Catalog verwijdert de gegevensbestanden definitief binnen 48 uur nadat het herstelvenster is beëindigd.
Door de klant geleverde beheerde opslag (een cloudopslaglocatie die u hebt geconfigureerd in de metastore, catalogus of schema) Unity Catalog verwijdert de gegevensbestanden definitief binnen 48 uur nadat het herstelvenster is beëindigd. Het beleid voor cloudopslag (objectversiebeheer, voorlopig verwijderen, levenscyclusregels) kan bestanden achter dit punt bewaren. Uw cloudprovider factureert u voor de opslag volgens dit beleid.

Zie Standaardopslag in Databricks voor meer informatie over Azure Databricks standaardopslag. Zie Een beheerde opslaglocatie opgeven in Unity Catalog om door de klant geleverde beheerde opslag te configureren.

Externe tabellen en volumes

Wanneer u een externe tabel of extern volume verwijdert, verwijdert Unity Catalog de metagegevens uit de metastore. De gegevensbestanden in uw cloudopslag worden niet verwijderd. Uw cloudprovider blijft u factureren voor de opslag volgens het beleid van uw bucket.

Als u de bestanden wilt verwijderen, verwijdert u ze rechtstreeks uit de cloudopslag.

Buitenlandse en federatieve catalogi

Een externe catalogus bevat metagegevens die verwijzen naar een externe gegevensbron. Wanneer u een refererende catalogus verwijdert, verwijdert Unity Catalog de metagegevens van de verbinding. De gegevens in het bronsysteem worden niet beïnvloed. Azure Databricks brengt u geen kosten in rekening voor opslag in het bronsysteem; de facturering van het bronsysteem is van toepassing.

Opslagfacturering na verwijderen

In de volgende tabel ziet u hoe Azure Databricks en uw cloudprovider in elke fase voor opslag factureren. Azure Databricks brengt alleen opslag voor de standaardopslag van Azure Databricks in rekening, en alleen tijdens het herstelvenster — de facturering van opslag stopt zodra het herstelvenster van 7 dagen is verstreken. Uw cloudprovider factureert u rechtstreeks voor door de klant geleverde beheerde opslag en externe opslag.

Opslagtype Herstelvenster Fase 2 leegmaken Na opschonen
Beheerd op Azure Databricks standaardopslag Azure Databricks gefactureerd Niet factureerbaar (facturering stopt zodra het herstelvenster is verstreken) Niet van toepassing
Beheerd op door de klant geleverde opslag In rekening gebrachte cloudprovider In rekening gebrachte cloudprovider Facturering via cloudprovider (bepaald door het bucketbeleid)
Externe tabellen en volumes In rekening gebrachte cloudprovider (bestanden worden niet verwijderd) Gefactureerde cloudaanbieder In rekening gebrachte cloudprovider
Buitenlandse en federatieve catalogi Niet van toepassing Niet van toepassing Niet van toepassing

Nadat u een beheerd object hebt verwijderd in door de klant geleverde opslag, ziet u mogelijk nog steeds opslagkosten van uw cloudprovider. Als u deze kosten wilt verlagen, controleer dan het objectversiebeheer, het soft-deletebeleid en het levenscyclusbeleid van uw bucket.

Een object verwijderen uit Catalog Explorer

U kunt Unity Catalog-objecten verwijderen uit Catalog Explorer in de gebruikersinterface van de werkruimte. De gegevenslevenscyclus die in dit artikel wordt beschreven, is van toepassing of u een object verwijdert uit Catalog Explorer of een SQL-instructie DROP uitvoert.

Wat gebeurt er wanneer u een werkruimte verwijdert

Als u een werkruimte verwijdert, wordt standaard niet automatisch de standaardcatalogus voor Unity Catalog van de werkruimte verwijderd. Als de catalogus wordt behouden, blijven de beheerde tabellen en volumes bestaan en worden er opslagkosten in rekening gebracht totdat de catalogus wordt verwijderd.

Azure Databricks biedt een optie voor geforceerd verwijderen waarmee de werkruimtecatalogus en de bijbehorende gegevens worden verwijderd als onderdeel van het verwijderen van de werkruimte. Zie Forceer het verwijderen van de werkruimtecatalogus. Als de werkruimtecatalogus niet geforceerd wordt verwijderd, blijft deze behouden na het verwijderen van de werkruimte en moet deze handmatig worden verwijderd.

Zie Een werkruimte verwijderen voor meer informatie over het verwijderen van een werkruimte.

Aanvullende informatiebronnen