Prozkoumání architektury řešení

  • 3 min

Pokud chcete naplánovat škálování a automatizaci, spolupracovali jste s několika zúčastněnými stranami a rozhodli se o architektuře operací strojového učení (MLOps).

Diagram of machine learning operations architecture.

Poznámka:

Diagram je zjednodušená reprezentace architektury MLOps. Pokud chcete zobrazit podrobnější architekturu, prozkoumejte různé případy použití v akcelerátoru řešení MLOps (v2).

Architektura zahrnuje:

  1. Nastavení: Vytvořte všechny potřebné prostředky Azure pro řešení.
  2. Vývoj modelů (vnitřní smyčka):Prozkoumejte a zpracujte data pro trénování a vyhodnocení modelu.
  3. Kontinuální integrace: Zabalte a zaregistrujte model.
  4. Nasazení modelu (vnější smyčka): Nasaďte model.
  5. Průběžné nasazování: Otestujte model a propagujte ho do produkčního prostředí.
  6. Monitorování: Monitorování výkonu modelu a koncového bodu

Nejdůležitější pro aktuální výzvu je vzít model od vývoje modelu po nasazení modelu. Krokem mezi těmito dvěma smyčkami je zabalení a registrace modelu. Jakmile tým datových věd vytrénuje model, je nezbytné model zabalit a zaregistrovat ho v pracovním prostoru Azure Machine Učení. Po registraci modelu je čas model nasadit.

K zabalení modelu existuje několik přístupů. Po kontrole některých možností, jako je práce se soubory pickle, jste se rozhodli s týmem datových věd pracovat s MLflow. Když model zaregistrujete jako model MLflow, můžete zvolit nasazení bez kódu v pracovním prostoru Azure Machine Učení. pokud používáte nasazení bez kódu, nemusíte pro nasazení vytvářet bodovací skript a prostředí, aby nasazení fungovalo.

Pokud chcete nasadit model, máte na výběr mezi online koncovým bodem pro predikce v reálném čase nebo dávkovým koncovým bodem pro dávkové předpovědi. Vzhledem k tomu, že model bude integrovaný s webovou aplikací, kde odborník zadá lékařské údaje, které očekávají, že získá přímou odpověď, zvolíte nasazení modelu do online koncového bodu.

Model můžete nasadit ručně v pracovním prostoru Azure Machine Učení. Očekáváte ale, že v budoucnu nasadíte více modelů. A chcete snadno znovu nasadit model klasifikace cukrovky vždy, když byl model znovu natrénován. Proto chcete automatizovat nasazení modelu, kdykoli je to možné.

Poznámka:

I když je automatizace kritickým aspektem MLOps, je důležité udržovat smyčku mezi lidmi. Osvědčeným postupem je před automatickým nasazením model ověřit.