Open source versus spravovaný MLflow v Azure Databricks

Tato stránka má pomoct opensourcovým uživatelům MLflow seznámit se s používáním MLflow v Databricks. MLflow spravovaný službou Databricks používá stejná rozhraní API, ale poskytuje další možnosti prostřednictvím integrace s širší platformou Azure Databricks.

Výhody spravovaného MLflow v Azure Databricks

Open source MLflow poskytuje základní datový model, rozhraní API a sadu SDK. To znamená, že vaše data a úlohy jsou vždy přenosné.

Spravované MLflow v Databricks přidává:

• Zásady správného řízení a zabezpečení na podnikové úrovni prostřednictvím integrace s platformou Databricks, Lakehousem a katalogem Unity. Data AI a ML, nástroje, agenty, modely a další prostředky se dají řídit a používat ve stejné platformě jako ostatní vaše data a úlohy.
• Plně spravované hostování na škálovatelných serverech připravených pro produkční prostředí
• Integrace pro vývoj a produkci s širší platformou Databricks AI

Další podrobnosti o výhodách najdete na stránce produktu Managed MLflow a další informace o technických podrobnostech najdete na zbytku této stránky.

Návod

Vaše data jsou vždy vaše – základní datový model a rozhraní API jsou zcela open source. Data MLflow můžete exportovat a používat kdekoli.

Další funkce v Databricks

Tato část obsahuje seznam důležitých funkcí povolených pro spravované MLflow prostřednictvím integrací s širší platformou Azure Databricks. Přehled všech funkcí MLflow pro GenAI najdete v tématu MLflow 3 pro GenAI a opensourcovou dokumentaci k GenAI.

Zásady správného řízení a zabezpečení na podnikové úrovni

• Podnikové zásady správného řízení pomocí katalogu Unity: Modely, tabulky funkcí, vektorové indexy, nástroje a další se řídí centrálně v rámci katalogu Unity. Při nasazování agentů je možné ověřování pro přístup k agentům, datům a nástrojům přesně řídit pomocí předávacího ověřování a ověřování jménem uživatele.
• Integrace dat v Lakehouse: Využijte agenty Genie a řídicí panely AI/BI a Databricks SQL k analýze protokolů a tras z experimentů MLflow.
• Zabezpečení a správa: Oprávnění MLflow se řídí stejnými modely správy jako platforma Azure Databricks jako celek:
  • Objekty pracovního prostoru, jako jsou experimenty, se řídí oprávněními pracovního prostoru.
  • Objekty katalogu Unity, jako jsou registrované modely, se řídí oprávněními katalogu Unity.
  • Ověřování a přístup uživatelského rozhraní a rozhraní API odpovídají platformě Databricks a rozhraní REST API.
• Auditování: Systémové tabulky poskytují protokoly využití a auditu pro spravované MLflow.

Plně spravované hostování na serverech připravených pro produkční prostředí

• Plně spravované: Azure Databricks poskytuje servery MLflow s automatickými aktualizacemi navrženými pro škálovatelnost a produkční prostředí. Podrobnosti najdete v tématu Omezení prostředků.
• Důvěryhodná platforma: Spravované MLflow používají tisíce zákazníků po celém světě.

Integrace pro vývoj a produkci

Vývoj umělé inteligence a strojového učení je zjednodušen integracemi, jako jsou:

• Integrace poznámkového bloku: Poznámkové bloky systému Databricks jsou automaticky připojeny k serveru MLflow a mohou používat jak experimenty poznámkového bloku, tak experimenty pracovních prostorů pro sledování a sdílení výsledků. Poznámkové bloky Databricks podporují automatické protokolování pro sledování MLflow. V případě GenAI můžou poznámkové bloky Databricks zobrazit integrované trasovací uživatelské rozhraní pro interaktivní analýzu.
• Nástroje pro lidskou zpětnou vazbu GenAI: Pro vyhodnocení GenAI poskytuje Databricks aplikaci pro hodnocení lidské zpětné vazby, která zahrnuje uživatelské rozhraní chatu pro kontroly atmosféry a odborné uživatelské rozhraní pro zpětnou vazbu pro označování sledování.

Produkční AI a ML jsou podporovány integracemi, jako jsou:

• Infrastruktura jako kód pro CI/CD: Správa experimentů, modelů a dalších objektů MLflow pomocí deklarativních automatizačních balíčků a stacků MLOps
• Nasazení modelů pomocí CI/CD: Úlohy nasazení MLflow 3 integrují pracovní postupy Databricks s katalogem Unity za účelem automatizace fázovaného nasazení modelů ML.
• Integrace úložiště funkcí: Integraceúložiště funkcí Databricks + integrace MLflow poskytuje jednodušší nasazení pro modely ML, které používají tabulky funkcí.
• Monitorování výroby GenAI: Databricks poskytuje službu monitorování produkce, která průběžně vyhodnocuje vzorek vašeho produkčního provozu pomocí hodnotitelů a skórů LLM. To je poháněno sběrem trasovacích dat v produkčním měřítku, které zahrnuje ukládání sledovacích dat do tabulek katalogu Unity.

Poznámka:

V MLflow 3.2.0 se zavedla kolekce telemetrie open source a ve výchozím nastavení je v Databricks zakázaná. Další podrobnosti najdete v dokumentaci ke sledování využití MLflow.

Další zdroje informací

Začínáme s MLflow v Databricks:

• Vytvoření bezplatné zkušebního účtu Databricks pro použití MLflow spravovaného službou Databricks
• Kurz: Připojení vývojového prostředí k MLflow
• Začínáme: MLflow 3 pro GenAI
• Začínáme s MLflow 3 pro modely

Související referenční materiál:

• Dokumentace k open source MLflow pro GenAI
• Rozhraní REST API Databricks, které zahrnuje rozhraní API MLflow
• Sady SDK Databricks, které zahrnují operace MLflow