Monitorování kvality modelu a stavu koncového bodu
Služba Databricks Model Serving poskytuje pokročilé nástroje pro monitorování kvality a stavu modelů a jejich nasazení. Následující tabulka obsahuje přehled jednotlivých dostupných monitorovacích nástrojů.
| Nástroj | Popis | Účel | Přístup |
|---|---|---|---|
| Protokoly služeb | Zaznamenává a stderr streamuje stdout z koncového bodu obsluhujícího model. |
Užitečné pro ladění během nasazování modelu. Umožňuje print(..., flush=true) okamžité zobrazení v protokolech. |
Přístupné pomocí karty Protokoly v uživatelském rozhraní obsluhy. Protokoly se streamují v reálném čase a dají se exportovat prostřednictvím rozhraní API. |
| Protokoly sestavení | Zobrazí výstup z procesu, který automaticky vytvoří produkční prostředí Pythonu pro koncový bod obsluhující model. | Užitečné při diagnostice problémů s nasazením modelu a závislostmi. | K dispozici po dokončení modelu obsluhujícího sestavení v části Protokoly sestavení na kartě Protokoly . Protokoly je možné exportovat prostřednictvím rozhraní API. |
| Metriky stavu koncového bodu | Poskytuje přehled o metrikách infrastruktury, jako je latence, frekvence požadavků, míra chyb, využití procesoru a využití paměti. | Důležité pro pochopení výkonu a stavu obslužné infrastruktury. | Ve výchozím nastavení je k dispozici v uživatelském rozhraní obsluhy za posledních 14 dnů. Data je možné streamovat také do nástrojů pozorovatelnosti v reálném čase. |
| Odvozovací tabulky | Automaticky protokoluje žádosti o online predikce a odpovědi do tabulek Delta spravovaných katalogem Unity. | Tento nástroj slouží k monitorování a ladění kvality modelu nebo odpovědí, generování trénovacích sad dat nebo provádění auditů dodržování předpisů. | Můžete povolit stávající a nové koncové body obsluhy modelů jediným kliknutím v uživatelském rozhraní nebo rozhraní API. |