Utforska lösningsarkitekturen
För att planera för skalning och automatisering har du samarbetat med flera intressenter för att besluta om en ARKITEKTUR för maskininlärningsåtgärder (MLOps).
Kommentar
Diagrammet är en förenklad representation av en MLOps-arkitektur. Om du vill visa en mer detaljerad arkitektur kan du utforska de olika användningsfallen i lösningsacceleratorn MLOps (v2).
Arkitekturen innehåller:
- Installation: Skapa alla nödvändiga Azure-resurser för lösningen.
- Modellutveckling (inre loop): Utforska och bearbeta data för att träna och utvärdera modellen.
- Kontinuerlig integrering: Paketera och registrera modellen.
- Modelldistribution (yttre loop): Distribuera modellen.
- Kontinuerlig distribution: Testa modellen och flytta upp till produktionsmiljön.
- Övervakning: Övervaka modell- och slutpunktsprestanda.
Viktigast för den aktuella utmaningen är att ta en modell från modellutveckling till modelldistribution. Steget mellan dessa två loopar är att paketera och registrera modellen. När datavetenskapsteamet har tränat en modell är det viktigt att paketera modellen och registrera den på Azure Machine Learning-arbetsytan. När modellen har registrerats är det dags att distribuera modellen.
Det finns flera sätt att paketera modellen. När du har granskat några alternativ som att arbeta med pickle-filer har du bestämt dig för att arbeta med MLflow med data science-teamet. När du registrerar modellen som en MLflow-modell kan du välja distribution utan kod på Azure Machine Learning-arbetsytan. När du använder distribution utan kod behöver du inte skapa bedömningsskriptet och miljön för att distributionen ska fungera.
När du vill distribuera en modell kan du välja mellan en onlineslutpunkt för realtidsförutsägelser eller en batchslutpunkt för batchförutsägelser. Eftersom modellen kommer att integreras med en webbapp där utövaren kommer att mata in medicinska data som förväntar sig att få ett direkt svar, väljer du att distribuera modellen till en onlineslutpunkt.
Du kan distribuera modellen manuellt på Azure Machine Learning-arbetsytan. Du förväntar dig dock att distribuera fler modeller i framtiden. Och du vill enkelt distribuera om diabetesklassificeringsmodellen när modellen har tränats om. Därför vill du automatisera modelldistributionen där det är möjligt.
Kommentar
Även om automatisering är en viktig aspekt av MLOps är det viktigt att upprätthålla en mänsklig-i-slinga. Det är bästa praxis att verifiera modellen innan den distribueras automatiskt.