Vizuální monitorování Azure Data Factory

VZTAHUJE SE NA: Azure Data Factory Azure Synapse Analytics

Tip

Data Factory v Microsoft Fabric je nová generace Azure Data Factory s jednodušší architekturou, integrovanou AI a novými funkcemi. Pokud s integrací dat začínáte, začněte Fabric Data Factory. Stávající úlohy ADF lze upgradovat na Fabric pro přístup k novým funkcím v oblastech datové vědy, analýz v reálném čase a vytváření sestav.

Jakmile vytvoříte a publikujete datový tok v Azure Data Factory, můžete ho přidružit k spouštěči nebo ručně spustit ad hoc běh. Všechny vaše kanály můžete monitorovat nativně v uživatelském prostředí Azure Data Factory. Pokud chcete otevřít prostředí monitorování, vyberte dlaždici Monitor & Spravovat na panelu služby datové továrny v portálu Azure. Pokud už jste v uživatelském prostředí ADF, klikněte na ikonu Monitorování na levém bočním panelu.

Ve výchozím nastavení se všechny běhy datové továrny zobrazují v místním časovém pásmu prohlížeče. Pokud změníte časové pásmo, všechna pole data a času se přichytí k vybranému časovému pásmu.

Monitorování spuštění kanálu

Výchozí zobrazení monitorování je seznam aktivovaných spuštění kanálu ve vybraném časovém období. Můžete změnit časový rozsah a filtrovat kanály podle stavu, názvu nebo poznámky. Najeďte myší na konkrétní spuštění kanálu, abyste získali akce specifické pro spuštění, jako je opětovné spuštění a sestava spotřeby.

Snímek obrazovky zobrazení seznamu pro monitorování běhů potrubí.

Mřížka běhu potrubí obsahuje následující sloupce:

Název sloupce Description
Název kanálu Název kanálu
Spustit program Počáteční datum a čas spuštění kanálu (MM/DD/YYYY, HH:MM:SS AM/PM)
Konec spuštění Koncové datum a čas pro provoz kanálu (MM/DD/YYYY, HH:MM:SS AM/PM)
Doba trvání Doba běhu (HH:MM:SS)
Aktivoval(a) Název triggeru, který spustil pipelinu
Status Selhalo, Úspěšné, Probíhající, Zrušeno, nebo Ve frontě
Anotace Značky, které lze filtrovat, přidružené k pipelině
Parametry Parametry spuštění potrubí (páry název/hodnota)
Chyba Pokud došlo k chybě v potrubí, objeví se chyba při spuštění.
Run Původní, znovu spustit nebo spustit znovu (nejnovější)
ID spuštění ID spuštění kanálu

Pokud chcete aktualizovat seznam spuštění pipeline a aktivit, musíte ručně vybrat tlačítko Aktualizovat. Autorefresh se v současné době nepodporuje.

 Snímek obrazovky s tlačítkem Aktualizovat

Chcete-li zobrazit výsledky spuštění ladění, vyberte kartu Ladění.

Snímek obrazovky s ikonou aktivního spuštění ladění

Monitorování spuštění aktivit

Pokud chcete získat podrobné zobrazení jednotlivých spuštění aktivit konkrétního spuštění datového toku, klikněte na název datového toku.

Snímek obrazovky s zobrazením spuštění aktivit

Zobrazení seznamu ukazuje průběhy aktivit, které odpovídají každému spuštění datového toku. Najeďte myší na konkrétní spuštění aktivity a získejte informace specifické pro spuštění, jako je vstup JSON, výstup JSON a podrobné prostředí pro monitorování specifické pro aktivity.

Snímek obrazovky s informacemi o SalesAnalyticsMLPipeline a seznamem spuštění aktivit

Název sloupce Description
Název aktivity Název aktivity uvnitř kanálu
Typ aktivity Typ aktivity, například Copy, ExecuteDataFlow nebo AzureMLExecutePipeline
Akce Ikony, které umožňují zobrazit vstupní informace JSON, výstupní informace JSON nebo podrobné prostředí pro monitorování specifické pro aktivity
Spustit program Počáteční datum a čas spuštění aktivity (MM/DD/YYYY, HH:MM:SS AM/PM)
Doba trvání Doba běhu (HH:MM:SS)
Status Neúspěšný, Úspěšný, Probíhající nebo Zrušené
Integration Runtime Na kterém Integration Runtime byla aktivita spuštěna
Vlastnosti uživatele Uživatelem definované vlastnosti aktivity
Chyba Pokud aktivita selhala, došlo k chybě spuštění
ID spuštění ID spuštění aktivity

Pokud aktivita selhala, zobrazí se podrobná chybová zpráva kliknutím na ikonu ve sloupci chyby.

Snímek obrazovky s oznámením s podrobnostmi o chybě, včetně kódu chyby, typu selhání a podrobností o chybě

Zvýšení uživatelských vlastností kvůli monitorování

Když zvýšíte úroveň vlastnosti aktivity kanálu, aby se z ní stala uživatelská vlastnost, stane se z ní také monitorovaná entita. V kanálu můžete například označit vlastnosti kopírovací aktivity Zdroj a Cíl jako uživatelské vlastnosti.

Poznámka

Jako vlastnosti uživatele můžete nastavit až pět vlastností aktivity kanálu.

Snímek obrazovky s vlastnostmi pro vytvoření uživatele

Po vytvoření vlastností uživatele je můžete monitorovat v zobrazeních seznamu monitorování.

Snímek obrazovky s přidáním sloupců pro vlastnosti uživatele do seznamu spuštění aktivit

Pokud je zdrojem aktivity kopírování název tabulky, můžete název zdrojové tabulky monitorovat jako sloupec v zobrazení seznamu pro spuštění aktivit.

Snímek obrazovky se seznamem spuštění aktivit se sloupci pro vlastnosti uživatele

Opakované spuštění kanálů a aktivit

Chování opětovného spuštění aktivit kontejneru je následující:

  • Wait– Aktivita se bude chovat jako předtím.
  • Set Variable – Aktivita se bude chovat jako předtím.
  • Filter – Aktivita se bude chovat jako předtím.
  • Until Aktivita vyhodnotí výraz a bude pokračovat ve smyčce, dokud podmínka nebude splněna. Vnitřní aktivity se mohou stále vynechat podle pravidel opětovného spuštění.
  • Foreach Aktivita bude vždy opakovat položky, které obdrží. Vnitřní aktivity se mohou stále vynechat podle pravidel opětovného spuštění.
  • If and switch – Podmínky budou vždy vyhodnoceny. Vyhodnotí se všechny vnitřní aktivity. Vnitřní aktivity se stále můžou přeskočit na základě pravidel opětovného spuštění, ale aktivity, jako je spuštění kanálu, budou znovu spuštěny.
  • Execute pipeline activity – Aktivuje se podřízený kanál, ale všechny aktivity v podřízené kanálu se můžou na základě pravidel opětovného spuštění přeskočit.

Pokud chcete znovu spustit kanál, který už byl spuštěn od začátku, najeďte myší na konkrétní spuštění kanálu a vyberte Spustit znovu. Pokud vyberete více pipelinek, můžete je spustit pomocí tlačítka Rerun.

Snímek obrazovky s opětovným spuštěním pipeline

Pokud chcete znovu spustit začít od konkrétního bodu, můžete to provést v zobrazení běhů aktivit. Vyberte aktivitu, od které chcete začít, a vyberte Spustit znovu z aktivity.

Snímek obrazovky opětovného spuštění aktivity

Můžete také znovu spustit kanál a změnit parametry. Pokud chcete změnit parametry, vyberte tlačítko Nové parametry .

Snímek obrazovky s opětovným spuštěním aktivity s novými parametry

Poznámka

Opětovné spuštění pipeline s novými parametry bude považováno za nové spuštění, a proto se nezobrazí ve skupinách opětovných spuštění pro danou pipeline.

Opětovné spuštění neúspěšné aktivity

Pokud aktivita selže, vyprší časový limit nebo je zrušená, můžete kanál z této neúspěšné aktivity spustit znovu výběrem možnosti Znovu spustit z neúspěšné aktivity.

Snímek obrazovky opětovného spuštění selhané aktivity.

Zobrazení historie opětovných spuštění

U všech běhů pipeline v zobrazení seznamu si můžete zobrazit historii opětovných spuštění.

Snímek obrazovky s historií zobrazení

Můžete také zobrazit historii znovuspouštění konkrétního spuštění pipeline.

Snímek obrazovky s historií spuštění pipeline

Monitorování spotřeby

Prostředky spotřebované spuštěním potrubí můžete zobrazit kliknutím na ikonu spotřeby vedle spuštění.

Snímek obrazovky, které ukazuje, kde lze vidět prostředky spotřebované pipelinou.

Kliknutím na ikonu se otevře zpráva o spotřebě prostředků spotřebovaných tímto spuštěním kanálu.

Snímek obrazovky monitorující spotřebu

Tyto hodnoty můžete připojit do cenové kalkulačky Azure a odhadnout náklady na spuštění kanálu. Další informace o cenách Azure Data Factory najdete v tématu Podstatné ceny.

Poznámka

Tyto hodnoty vrácené cenovou kalkulačkou jsou odhadem. Neodráží přesnou částku, kterou vám bude fakturovat Azure Data Factory

Ganttova zobrazení

Ganttův diagram je zobrazení, které vám umožňuje vidět historii spuštění v určitém časovém rozsahu. Když přepnete do zobrazení Ganttova diagramu, uvidíte všechny běhy pipeline seskupené podle názvu, znázorněné jako sloupce vzhledem k tomu, jak dlouho tento běh trval. Můžete také seskupit podle poznámek a/nebo značek, které jste vytvořili ve vaší pipeline. Ganttův diagram je také k dispozici na úrovni spuštění aktivit.

Snímek obrazovky s příkladem Ganttova diagramu

Délka pruhu informuje dobu trvání kanálu. Pokud chcete zobrazit další podrobnosti, můžete také vybrat panel.

Snímek obrazovky s dobou trvání Ganttova diagramu

Upozornění

U podporovaných metrik služby Data Factory můžete generovat upozornění. Začněte výběrem možnosti Monitorovat>výstrahy a metriky na stránce monitorování služby Data Factory.

Snímek obrazovky stránky Monitorování Datové továrny

V sedmiminutovém úvodu a ukázce této funkce se podívejte na následující video:

Vytváření upozornění

  1. Vyberte Nové pravidlo upozornění a vytvořte novou výstrahu.

    Snímek obrazovky s tlačítkem Nové pravidlo upozornění

  2. Zadejte název pravidla a vyberte závažnost upozornění.

    Snímek obrazovky polí s názvem a závažností pravidla

  3. Vyberte kritéria upozornění.

    Snímek obrazovky s polem pro cílová kritéria

    Snímek obrazovky znázorňující, kde vyberete jednu metriku pro nastavení podmínky upozornění

    Snímek obrazovky se seznamem kritérií

    Můžete vytvářet upozornění na různé metriky, včetně těch pro počet/velikost entit ADF, spuštění aktivit/potrubí/spouštěče, využití CPU, paměti, počet uzlů nebo frontu Integration Runtime (IR), stejně jako pro spouštění balíčků SSIS a operace spuštění/zastavení SSIS IR.

  4. Nakonfigurujte logiku upozornění. Pro vybranou metriku můžete vytvořit upozornění pro všechny kanály a odpovídající aktivity. Můžete také vybrat konkrétní typ aktivity, název aktivity, název kanálu nebo typ selhání.

    Snímek obrazovky s možnostmi konfigurace logiky upozornění

  5. Nakonfigurujte pro upozornění e-mail, SMS, nabízená oznámení a hlasová oznámení. Vytvořte skupinu akcí nebo zvolte existující pro oznámení výstrahy.

    Snímek obrazovky s možnostmi konfigurace oznámení

    Snímek obrazovky s možnostmi pro přidání oznámení

  6. Vytvořte pravidlo upozornění.

    Snímek obrazovky s možnostmi pro vytvoření pravidla upozornění

Informace o monitorování a správě kanálů najdete v článku Monitorování a správa kanálů prostřednictvím kódu programu .