Monitorování úloh Sparku v poznámkovém bloku

Poznámkový blok Microsoft Fabric je webová interaktivní plocha pro vývoj úloh Apache Sparku a provádění experimentů strojového učení. Tento článek popisuje, jak monitorovat průběh úloh Sparku, získat přístup k protokolům Sparku, získat rady v poznámkovém bloku a přejít do zobrazení podrobností aplikace Spark nebo uživatelského rozhraní Sparku, kde najdete podrobnější informace o monitorování pro celý poznámkový blok.

Monitorování průběhu úlohy Sparku

Indikátor průběhu úlohy Sparku je k dispozici s indikátorem průběhu v reálném čase, který pomáhá monitorovat stav provádění úlohy pro každou buňku poznámkového bloku. Průběh úkolů a stavu můžete zobrazit napříč úlohami a fázemi Sparku.

Screenshot showing Notebook cell and Spark job progress list.

Monitorování využití prostředků

Graf využití exekutoru vizuálně zobrazuje přidělení exekutorů úloh Sparku a využití prostředků. V současné době tuto funkci zobrazí pouze informace o modulu runtime sparku 3.4 a vyšší. Klikněte na kartu Zdroje , zobrazí se spojnicový graf pro použití zdroje buňky kódu.

Screenshot showing Notebook cell and resource usage of code cell.

Zobrazení doporučení Spark Advisoru

Integrovaný poradce sparku analyzuje kód poznámkového bloku a spouštění Sparku v reálném čase, aby pomohl optimalizovat výkon poznámkového bloku a pomáhat při ladění selhání. Existují tři typy předdefinovaných rad: Informace, Upozornění a Chyba. Ikony s čísly označují odpovídající počet rad v každé kategorii (informace, upozornění a chyba) vygenerované poradcem Sparku pro konkrétní buňku poznámkového bloku.

Pokud chcete zobrazit rady, kliknutím na šipku na začátku rozbalte a zobrazte podrobnosti.

Screenshot showing light bulb.

Po rozbalení oddílu poradce se zobrazí jeden nebo více rad.

Screenshot showing light bulb to expand the box.

Detekce nerovnoměrné distribuce Spark Advisoru

Nerovnoměrná distribuce dat je běžným problémem, se kterým se uživatelé často setkávají. Poradce Sparku podporuje detekci nerovnoměrné distribuce a pokud se zjistí nerovnoměrná distribuce, zobrazí se níže odpovídající analýza.

Screenshot showing Data Skew Analysis details.

Přístup k protokolům Sparku v reálném čase

Protokoly Sparku jsou nezbytné pro vyhledání výjimek a diagnostiku výkonu nebo selhání. Kontextová funkce monitorování v poznámkovém bloku přináší protokoly přímo pro konkrétní buňku, kterou spouštíte. Protokoly můžete prohledávat nebo je filtrovat podle chyb a upozornění.

Screenshot showing the real time logs under the code cell.

Pokud chcete získat přístup k dalším informacím o spuštění Sparku na úrovni poznámkového bloku, můžete přejít na stránku podrobností aplikace Spark nebo uživatelské rozhraní Sparku prostřednictvím možností dostupných v místní nabídce.

Screenshot showing the access spark ui and monitoring detail page.