Vooraf gebouwde Docker-installatiekopieën voor deductie
Vooraf gemaakte Docker-containerinstallatiekopieën voor deductie worden gebruikt bij het implementeren van een model met Azure Machine Learning. De installatiekopieën zijn vooraf samengesteld met populaire machine learning-frameworks en Python-pakketten. U kunt de pakketten ook uitbreiden om andere pakketten toe te voegen met behulp van een van de volgende methoden:
Waarom moet ik vooraf gemaakte installatiekopieën gebruiken?
- Vermindert de latentie van modelimplementatie
- Verbetert het succespercentage van de modelimplementatie
- Vermijd onnodige build van installatiekopieën tijdens de modelimplementatie
- Bevat alleen de vereiste afhankelijkheden en toegang rechtstreeks in de installatiekopieën/container
Lijst met vooraf gemaakte Docker-installatiekopieën voor deductie
Belangrijk
De lijst in de volgende tabel bevat alleen de Docker-installatiekopieën voor deductie die momenteel door Azure Machine Learning worden ondersteund.
- Alle Docker-installatiekopieën worden uitgevoerd als niet-hoofdgebruiker.
- U wordt aangeraden de
latest
tag voor Docker-installatiekopieën te gebruiken. Vooraf gemaakte Docker-installatiekopieën voor deductie worden gepubliceerd naar het Microsoft-containerregister (MCR). Zie de MCR GitHub-opslagplaats voor informatie over het opvragen van de lijst met beschikbare tags. - Als u een specifieke tag wilt gebruiken voor een docker-installatiekopie van deductie, ondersteunt Azure Machine Learning tags die variëren van
latest
tot zes maanden ouder zijn danlatest
.
Minimale basisinstallatiekopieën deductie
Framework-versie | CPU/GPU | Vooraf geïnstalleerde pakketten | MCR-pad |
---|---|---|---|
N.v.t. | CPU | N.v.t. | mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cpu-inference:latest |
N.v.t. | GPU | N.v.t. | mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cuda11.6.2-gpu-inference:latest |
N.v.t. | CPU | N.v.t. | mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cpu-inference:latest |
N.v.t. | GPU | N.v.t. | mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cuda11.8-gpu-inference:latest |
Notitie
Azure Machine Learning ondersteunt gecureerde omgevingen. U kunt door gecureerde omgevingen bladeren en een filter toevoegen voor Tags: Inferencing
.