你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。
用于推理的预生成 Docker 映像
通过 Azure 机器学习部署模型时,将使用用于推理的预生成 Docker 容器映像。 这些映像是使用流行的机器学习框架和 Python 包预生成的。 你还可以使用以下方法之一扩展包,以添加其他包:
为何要使用预生成的映像?
- 降低模型部署延迟
- 提高模型部署成功率
- 避免在模型部署期间进行不必要的映像生成
- 在映像/容器中仅包含所需的依赖项和访问权限
用于推理的预生成 Docker 映像列表
重要
下表中提供的列表仅包括 Azure 机器学习当前支持的推理 Docker 映像。
- 所有 Docker 映像都以非根用户身份运行。
- 我们建议对 Docker 映像使用
latest
标记。 用于推理的预生成 Docker 映像发布到 Microsoft 容器注册表 (MCR)。 有关如何查询可用标记列表的信息,请参阅 MCR GitHub 存储库。 - 如果要对任何推理 docker 映像使用特定标记,Azure 机器学习支持从
latest
到比latest
早 6 个月的标记。
推理最小基映像
框架版本 | CPU/GPU | 预安装的包 | MCR 路径 |
---|---|---|---|
NA | CPU | NA | mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cpu-inference:latest |
NA | GPU | NA | mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cuda11.6.2-gpu-inference:latest |
NA | CPU | NA | mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cpu-inference:latest |
NA | GPU | NA | mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cuda11.8-gpu-inference:latest |