Zobrazení výpočetních metrik

Tento článek vysvětluje, jak pomocí nativního nástroje pro výpočetní metriky v uživatelském rozhraní Azure Databricks shromáždit klíčový hardware a metriky Sparku. Uživatelské rozhraní metrik je k dispozici pro výpočty pro různé účely a úlohy.

Metriky jsou k dispozici téměř v reálném čase s normálním zpožděním kratším než jednu minutu. Metriky se ukládají v úložišti spravovaném službou Azure Databricks, ne v úložišti zákazníka.

Bezserverové výpočetní prostředky pro poznámkové bloky a úlohy používají místo uživatelského rozhraní metrik přehledy dotazů. Další informace o bezserverových výpočetních metrikách najdete v tématu Zobrazení přehledů dotazů.

Přístup k uživatelskému rozhraní výpočetních metrik

Zobrazení uživatelského rozhraní výpočetních metrik:

1. Na bočním panelu klikněte na Výpočty .
2. Klikněte na výpočetní prostředek, pro který chcete zobrazit metriky.
3. Klikněte na kartu Metriky .

Ve výchozím nastavení se zobrazují hardwarové metriky pro všechny uzly. Pokud chcete zobrazit metriky Sparku, klikněte na rozevírací nabídku s popiskem Hardware a vyberte Spark. Pokud je instance povolená pro GPU, můžete také vybrat GPU.

Filtrování metrik podle časového období

Historické metriky můžete zobrazit výběrem časového rozsahu pomocí filtru pro výběr data. Metriky se shromažďují každou minutu, takže můžete filtrovat podle libovolného rozsahu dne, hodiny nebo minuty za posledních 30 dnů. Kliknutím na ikonu kalendáře můžete vybrat z předdefinovaných oblastí dat nebo kliknutím do textového pole definovat vlastní hodnoty.

Poznámka:

Časové intervaly zobrazené v grafech se upravují podle doby, po kterou si prohlížíte. Většina metrik je průměrů na základě časového intervalu, který si právě prohlížíte.

Nejnovější metriky můžete získat také kliknutím na tlačítko Aktualizovat .

Zobrazení metrik na úrovni uzlu

Ve výchozím nastavení se na stránce metriky zobrazují metriky pro všechny uzly v clusteru (včetně ovladače) průměrované v průběhu časového období.

Metriky jednotlivých uzlů můžete zobrazit kliknutím na rozevírací nabídku Všechny uzly a výběrem uzlu, pro který chcete zobrazit metriky. Metriky GPU jsou k dispozici pouze na úrovni jednotlivých uzlů. Metriky Sparku nejsou k dispozici pro jednotlivé uzly.

Pokud chcete pomoct s identifikací všech odlehlejších uzlů v clusteru, můžete také zobrazit metriky pro všechny jednotlivé uzly na jedné stránce. Chcete-li získat přístup k tomuto zobrazení, klikněte na rozevírací nabídku Všechny uzly a vyberte Podle uzlu a pak vyberte podkategorii metriky, kterou chcete zobrazit.

Grafy hardwarových metrik

Následující hardwarové grafy metrik jsou k dispozici pro zobrazení v uživatelském rozhraní výpočetních metrik:

• Využití procesoru a aktivní uzly: Spojnicový graf zobrazuje počet aktivních uzlů v každém časovém razítku daného výpočetního prostředí. Pruhový graf zobrazuje procento času stráveného procesorem v jednotlivých režimech na základě celkových nákladů na procesor v sekundách. Sledované režimy jsou následující:
  • guest: Pokud používáte virtuální počítače, procesor, který tyto virtuální počítače používají.
  • iowait: Čas strávený čekáním na vstupně-výstupní operace
  • idle: Čas, kdy procesor neměl nic společného
  • irq: Čas strávený na žádostech o přerušení
  • nice: Čas používaný procesy, které mají pozitivní niceness, což znamená nižší prioritu než jiné úkoly
  • softirq: Čas strávený na žádostech o přerušení softwaru
  • steal: Pokud jste virtuální počítač, doba, kdy jiné virtuální počítače odebraly čas z vašich procesorů
  • system: Čas strávený v jádru
  • user: Čas strávený v uživatelském prostoru
• Využití paměti kontejneru: Paměť spotřebovaná kontejnerem Sparku v průměru napříč všemi příslušnými uzly. Zahrnuje průměry paměti, které nelze uvolnit (Container memory used), mezipaměť stránky souboru operačního systému (Container memory file cache) a nakonfigurovaný limit paměti (Container memory limit).
• Využití haldy JVM: Využití paměti haldy JVM v průměru napříč všemi příslušnými uzly. Zahrnuje průměry skutečného využití haldy, kapacity haldy a nakonfigurovaného maximálního limitu haldy.
• Přijatá a přenášená síť: Počet bajtů přijatých a přenášených prostřednictvím sítě jednotlivými zařízeními.
• Volné místo systému souborů: Celkové využití systému souborů každým přípojným bodem měřeným v bajtech.

Kliknutím na Využití paměti uzlu v dolní části karty Hardware rozbalte následující další graf:

• Využití paměti a swapování: Spojnicový graf zobrazuje celkové využití swapování paměti v jednotlivých režimech, měřené v bajtech. Pruhový graf zobrazuje celkové využití paměti podle režimu, které se měří také v bajtech. Sledují se následující typy použití:
  • used: Celková využitá paměť na úrovni operačního systému, včetně paměti používané procesy na pozadí běžícími na výpočetních prostředcích. Vzhledem k tomu, že procesy ovladače a procesy na pozadí využívají paměť, může se využití stále zobrazovat i v případě, že nejsou spuštěné žádné úlohy Sparku.
  • other: Paměť užitá pro jiné účely než used, buffernebo cached
  • buffer: Paměť využívaná bufferem jádra
  • cached: Paměť používaná mezipamětí systému souborů na úrovni operačního systému
  • free: Nepoužitá paměť. Nic, co není přiřazeno k jedné z výše uvedených kategorií v grafu, je zdarma.

Grafy metrik Sparku

Následující grafy metrik Sparku jsou k dispozici pro zobrazení v uživatelském rozhraní výpočetních metrik:

• Distribuce zatížení serveru: Tyto dlaždice zobrazují využití procesoru za poslední minutu pro každý uzel ve výpočetním prostředku. Každá dlaždice je kliknutelný odkaz na stránku s metrikami pro jednotlivý uzel.
• Aktivní úkoly: Celkový počet úkolů spuštěných v libovolném okamžiku.
• Celkový počet neúspěšných úkolů: Celkový počet úkolů, které selhaly v exekutorech.
• Celkový počet dokončených úkolů: Celkový počet úkolů, které byly dokončeny zpracovateli.
• Celkový počet úkolů: Celkový počet všech úkolů (spuštěných, neúspěšných a dokončených) ve vykonavatelích.
• Celkové čtení promíchaných dat: Celková velikost dat promíchaného čtení měřená v bajtech. Shuffle read znamená součet serializovaných přečtených dat na všech vykonavatelích na začátku etapy.
• Total shuffle write: Celková velikost shufflingu zapsaných dat, měřená v bajtech. Shuffle Write je součet všech zapsaných serializovaných dat na všech exekutorech před přenosem (obvykle na konci fáze).
• Celková doba trvání úkolu: Celkový čas uplynulého času, který JVM strávil prováděním úkolů na exekutorech měřených v sekundách.

Grafy metrik GPU

Poznámka:

Metriky GPU jsou k dispozici pouze ve službě Databricks Runtime ML 13.3 a vyšší.

Následující grafy metrik GPU jsou k dispozici pro zobrazení v uživatelském rozhraní výpočetních metrik:

• Distribuce zatížení serveru: Tento graf zobrazuje využití procesoru za poslední minutu pro každý uzel.
• Využití dekodéru na GPU: Procento využití dekodéru na GPU.
• Per-GPU využití kodéru: Procento využití GPU kodéru.
• Využití paměti vyrovnávacího bufferu na GPU: Využití paměti frame bufferu měřené v bajtech.
• Využití paměti na každé GPU: Procento využití paměti GPU.
• Využití jednotlivých GPU: Procento využití GPU.

Řešení problému

Pokud se na určité období zobrazí neúplné nebo chybějící metriky, může to být jeden z následujících problémů:

• Výpadek ve službě Databricks zodpovědný za dotazování a ukládání metrik.
• Problémy se sítí na straně zákazníka
• Výpočetní prostředky jsou nebo byly ve špatném stavu.