Dela via

Fördefinierade Docker-avbildningar för slutsatsdragning

  • Artikel

Fördefinierade Docker-containeravbildningar för slutsatsdragning används när du distribuerar en modell med Azure Mašinsko učenje. Bilderna är fördefinierade med populära maskininlärningsramverk och Python-paket. Du kan också utöka paketen för att lägga till andra paket med någon av följande metoder:

Varför ska jag använda fördefinierade bilder?

  • Minskar svarstiden för modelldistribution
  • Förbättrar lyckad modelldistribution
  • Undviker onödiga avbildningsversioner under modelldistributionen
  • Innehåller endast nödvändiga beroenden och åtkomsträtt i avbildningen/containern

Lista över fördefinierade Docker-avbildningar för slutsatsdragning

Viktigt!

Listan i följande tabell innehåller endast de slutsatsdragnings docker-avbildningar som Azure Mašinsko učenje för närvarande stöder.

  • Alla Docker-avbildningar körs som icke-rotanvändare.
  • Vi rekommenderar att du använder taggen latest för Docker-avbildningar. Fördefinierade Docker-avbildningar för slutsatsdragning publiceras till Microsoft Container Registry (MCR). Information om hur du kör frågor mot listan över tillgängliga taggar finns i MCR GitHub-lagringsplatsen.
  • Om du vill använda en specifik tagg för alla slutsatsdragningar för Docker-avbildningar stöder Azure Mašinsko učenje taggar som sträcker sig från latest till sex månader äldre än latest.

Slutsatsdragning – minimala basavbildningar

Framework-version CPU/GPU Förinstallerade paket MCR-sökväg
NA Processor Inte tillämpligt mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cpu-inference:latest
Inte tillämpligt GPU Inte tillämpligt mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cuda11.6.2-gpu-inference:latest
Inte tillämpligt Processor Inte tillämpligt mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cpu-inference:latest
Inte tillämpligt GPU NA mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cuda11.8-gpu-inference:latest

Kommentar

Azure Mašinsko učenje stöder utvalda miljöer. Du kan bläddra bland utvalda miljöer och lägga till filter för Tags: Inferencing.

Relaterat innehåll