Utforska distributions- och övervakningsarkitekturen

  • 4 minuter

För att hålla no-show-modellen tillförlitlig allt eftersom den utvecklas följer Prosewares team en PROCESS för maskininlärningsåtgärder (MLOps) som sträcker sig över allt från inledande installation till pågående övervakning.

Diagram över arkitekturen för maskininlärningsåtgärder.

Kommentar

Det här diagrammet är en förenklad representation av en MLOps-arkitektur. Mer information om hur du utforskar en mer detaljerad uppsättning implementeringar finns i lösningsacceleratorn MLOps v2.

Arkitekturen innehåller:

  • Installation: Skapa de Azure resurser som lösningen behöver.
  • Modellutveckling (inre loop): Utforska data och träna och utvärdera kandidatmodeller.
  • Kontinuerlig integrering: Paketera och registrera modellen.
  • Driftsättning av modell (yttre loop): Driftsätt modellen till en ändpunkt.
  • Kontinuerlig distribution: Testa distributionen och flytta den till produktion på ett säkert sätt.
  • Övervakning: Spåra slutpunktens drifthälsa och modellens förutsägelser över tid.

Att registrera en modell är den avgörande övergången mellan de första tre stegen och de sista tre. När datavetenskapsteamet har tränat och registrerat en modell fokuserar resten av den här modulen på den andra halvan av cykeln: att ta en registrerad modell genom distribution, säker befordran, automatisering och övervakning.

Bestäm vad som ska automatiseras

Du kan utföra var och en av dessa senare steg manuellt i Azure Machine Learning Studio. Men eftersom Proseware planerar att träna om och distribuera om no-show-modellen regelbundet automatiserar teamet registrering, distribution och testning med GitHub Actions, vilket utlöser arbetsflödet när en ny modellversion är klar. Om du automatiserar de här repetitiva stegen kan teamet fokusera på att granska modellkvaliteten i stället för att upprepa distributionskommandon för hand.

Kommentar

Automation är centralt för MLOps, men det ersätter inte mänskligt omdöme. Det är bästa praxis att låta en person vara delaktig i beslut som att sätta en ny modellversion i produktion för all produktionstrafik eller att utreda ett övervakningslarm.

Nästa enhet visar hur en skyddad GitHub-miljö omvandlar den granskningspunkten till en verkställbar distributionsspärr.