Dela via

Förutsägande optimering för hanterade Unity Catalog-tabeller

  • Artikel

Förutsägande optimering tar bort behovet av att manuellt hantera underhållsåtgärder för hanterade Unity Catalog-tabeller i Azure Databricks.

Med förutsägande optimering aktiverat identifierar Azure Databricks automatiskt tabeller som skulle dra nytta av underhållsåtgärder och kör dem för användaren. Underhållsåtgärder körs bara efter behov, vilket eliminerar både onödiga körningar för underhållsåtgärder och den börda som är kopplad till spårnings- och felsökningsprestanda.

Viktigt!

Förutsägelseoptimering körs endast på hanterade Unity Catalog-tabeller.

Förutsägelseoptimering körs inte på strömmande tabeller eller materialiserade vyer som skapats i Databricks SQL eller med hjälp av Delta Live Tables-pipelines.

Vilka åtgärder körs förutsägelseoptimering?

Förutsägelseoptimering kör följande åtgärder automatiskt för aktiverade tabeller:

Operation beskrivning
OPTIMIZE(1) Utlöser inkrementell klustring för aktiverade tabeller. Se Använda flytande klustring för Delta-tabeller.

Förbättrar frågeprestanda genom att optimera filstorlekar. Se Optimera datafillayout.
VACUUM Minskar lagringskostnaderna genom att ta bort datafiler som inte längre refereras till av tabellen. Se Ta bort oanvända datafiler med vakuum.
ANALYZE(2) Utlöser inkrementell uppdatering av statistik för att förbättra frågeprestanda.

(1) OPTIMIZE körs ZORDER inte när den körs med förutsägelseoptimering.

(2) Förutsägelseoptimering med ANALYZE finns i offentlig förhandsversion. Den innehåller intelligent stastistics-samling under skrivningar. Använd det här formuläret för att registrera dig för den offentliga förhandsversionen. Under den första offentliga förhandsversionen ANALYZE kan kommandon köras på tabeller med upp till 1 TB data och 500 kolumner eller färre.

Varning

Kvarhållningsfönstret för VACUUM kommandot bestäms av tabellegenskapen delta.deletedFileRetentionDuration , som standard är 7 dagar. Det innebär att VACUUM datafiler som inte längre refereras till av en Delta-tabellversion tas bort under de senaste 7 dagarna. Om du vill behålla data längre (till exempel för att stödja tidsresor under längre perioder) måste du ange den här tabellegenskapen på rätt sätt innan du aktiverar förutsägelseoptimering, som i följande exempel:

ALTER TABLE table_name SET TBLPROPERTIES ('delta.deletedFileRetentionDuration' = '30 days');

Var körs förutsägelseoptimering?

Förutsägande optimering identifierar tabeller som skulle dra nytta ANALYZEav , OPTIMIZEoch VACUUM åtgärder och köar dem för att köras med hjälp av serverlös beräkning för jobb. Ditt konto debiteras för beräkning som är associerad med dessa arbetsbelastningar med en SKU som är specifik för Databricks Managed Services. Se priser för Databricks-hanterade tjänster. Azure Databricks tillhandahåller systemtabeller för observerbarhet i förebyggande optimeringsåtgärder, kostnader och påverkan. Se Använda systemtabeller för att spåra förutsägelseoptimering.

Förutsättningar för förutsägelseoptimering

Du måste uppfylla följande krav för att möjliggöra förutsägande optimering:

  • Din Azure Databricks-arbetsyta måste finnas på Premium-planen i en region som stöder förutsägelseoptimering. Se Azure Databricks-regioner.

  • Du måste använda SQL-lager eller Databricks Runtime 12.2 LTS eller senare när du aktiverar förutsägelseoptimering.

  • Endast hanterade tabeller i Unity Catalog stöds.

  • Om du behöver privat anslutning för dina lagringskonton måste du konfigurera en serverlös privat anslutning. Se Konfigurera privat anslutning från serverlös beräkning.

Aktivera förutsägande optimering

Du måste aktivera förutsägelseoptimering på kontonivå.

Du måste ha följande behörigheter för att aktivera eller inaktivera förutsägelseoptimering på den angivna nivån:

Unity Catalog-objekt Privilege
Konto Kontoadministratör
Katalog Katalogägare
Schema Schemaägare

Kommentar

När du aktiverar förutsägelseoptimering för första gången skapar Azure Databricks automatiskt ett huvudnamn för tjänsten i ditt Azure Databricks-konto. Azure Databricks använder tjänstens huvudnamn för att utföra de begärda underhållsåtgärderna. Läs mer i Hantera tjänstens huvudnamn.

Aktivera förutsägelseoptimering för ditt konto

En kontoadministratör måste utföra följande steg för att aktivera förutsägelseoptimering för alla metaarkiv i ett konto:

  1. Få åtkomst till kontokonsolen.
  2. Gå till Inställningar och sedan Funktionsaktivering.
  3. Välj Aktiverad bredvid Förutsägande optimering.

Kommentar

Metaarkiv i regioner som inte stöder förutsägande optimering är inte aktiverade.

Aktivera eller inaktivera förutsägelseoptimering för en katalog eller ett schema

Förutsägelseoptimering använder en arvsmodell. När det är aktiverat för en katalog ärver scheman egenskapen. Tabeller i ett aktiverat schema ärver förutsägelseoptimering. Om du vill åsidosätta det här arvsbeteendet kan du uttryckligen inaktivera förutsägelseoptimering för en katalog eller ett schema.

Kommentar

Du kan inaktivera förutsägelseoptimering på katalog- eller schemanivå innan du aktiverar den på kontonivå. Om förutsägande optimering senare aktiveras för kontot blockeras det för tabeller i dessa objekt.

Använd följande syntax för att aktivera eller inaktivera förutsägelseoptimering:

ALTER CATALOG [catalog_name] {ENABLE | DISABLE} PREDICTIVE OPTIMIZATION;
ALTER {SCHEMA | DATABASE} schema_name {ENABLE | DISABLE} PREDICTIVE OPTIMIZATION;

Kontrollera om förutsägelseoptimering är aktiverat

Fältet Predictive Optimization är en Unity Catalog-egenskap som beskriver om förutsägelseoptimering är aktiverat. Om förutsägelseoptimering ärvs från ett överordnat objekt anges detta i fältvärdet.

Viktigt!

Du måste aktivera förutsägelseoptimering på kontonivå för att kunna visa det här fältet.

Använd följande syntax för att se om förutsägelseoptimering är aktiverat:

DESCRIBE (CATALOG | SCHEMA | TABLE) EXTENDED name

Använda systemtabeller för att spåra förutsägelseoptimering

Azure Databricks innehåller en systemtabell för att spåra historiken för förutsägande optimeringsåtgärder. Se Tabellreferens för systemtabell för förutsägande optimering.

Om systemtabellen markerar åtgärder som misslyckade med FAILED: PRIVATE_LINK_SETUP_ERRORkanske du inte har konfigurerat en privat länk korrekt för serverlös beräkning. Se Konfigurera privat anslutning från serverlös beräkning.

Begränsningar

Förutsägelseoptimering är inte tillgängligt i alla regioner. Se Azure Databricks-regioner.

Förutsägande optimering kör OPTIMIZE inte kommandon på tabeller som använder Z-ordning.

Förutsägande optimering kör VACUUM inte åtgärder på tabeller med ett filkvarhållningsfönster som har konfigurerats under standardvärdet 7 dagar. Se Konfigurera datakvarhållning för frågor om tidsresor.

Förutsägande optimering utför inte underhållsåtgärder i följande tabeller: