Udforsk løsningsarkitekturen

Fuldført

Hvis du vil planlægge skalering og automatisering, har du arbejdet sammen med flere interessenter om at træffe beslutning om en arkitektur til maskinel indlæring (MLOps).

Diagram over arkitekturen for maskinel indlæringshandlinger.

Seddel

Diagrammet er en forenklet repræsentation af en MLOps-arkitektur. Hvis du vil have vist en mere detaljeret arkitektur, skal du udforske de forskellige use cases i MLOps (v2)-løsningsaccelerator.

Arkitekturen omfatter:

  1. installation: Opret alle nødvendige Azure-ressourcer til løsningen.
  2. Modeludvikling (indre løkke): Udforsk og behandl dataene for at oplære og evaluere modellen.
  3. Kontinuerlig integration: Pak og registrer modellen.
  4. modelinstallation (ydre løkke): Udrul modellen.
  5. Kontinuerlig udrulning: Test modellen, og hæv til produktionsmiljøet.
  6. Overvågning: Overvåg modellens og slutpunktsydeevnen.

Det vigtigste for den aktuelle udfordring er at tage en model fra modeludvikling til modeludrulning. Trinnet mellem disse to løkker er at pakke og registrere modellen. Når datavidenskabsteamet har oplært en model, er det vigtigt at pakke modellen og registrere den i Azure Machine Learning-arbejdsområdet. Når modellen er registreret, er det tid til at udrulle modellen.

Der er flere metoder til at pakke modellen. Når du har gennemgået nogle muligheder som f.eks. at arbejde med pickle-filer, har du besluttet, at du sammen med datavidenskabsteamet skal arbejde med MLflow. Når du registrerer modellen som en MLflow-model, kan du vælge installation uden kode i Azure Machine Learning-arbejdsområdet. Når du bruger installation uden kode, behøver du ikke at oprette scoringsscriptet og miljøet, for at installationen kan fungere.

Når du vil udrulle en model, kan du vælge mellem et onlineslutpunkt for forudsigelser i realtid eller et batchslutpunkt for batchforudsigelser. Da modellen integreres med en webapp, hvor den praktiserende læge indtaster medicinske data, der forventer at få et direkte svar, vælger du at udrulle modellen til et onlineslutpunkt.

Du kan udrulle modellen manuelt i Azure Machine Learning-arbejdsområdet. Du forventer dog at udrulle flere modeller i fremtiden. Og du vil nemt geninstallere diabetesklassificeringsmodellen, når modellen er blevet genoplært. Du vil derfor automatisere udrulningen af modellen, hvor det er muligt.

Seddel

Selvom automatisering er et kritisk aspekt af MLOps, er det afgørende at opretholde en menneskelig i-the-løkke. Det er bedste praksis at bekræfte modellen, før den udrulles automatisk.