유추를 위해 미리 빌드된 Docker 이미지
유추를 위해 미리 빌드된 Docker 컨테이너 이미지는 Azure Machine Learning에서 모델을 배포할 때 사용됩니다. 이미지는 널리 사용되는 기계 학습 프레임워크 및 Python 패키지로 미리 빌드됩니다. 다음 방법 중 하나를 사용해 패키지를 확장하여 다른 패키지를 추가할 수도 있습니다.
미리 빌드된 이미지를 사용해야 하는 이유는 무엇인가요?
- 모델 배포 대기 시간 줄이기
- 모델 배포 성공률 향상
- 모델 배포 중 불필요한 이미지 빌드 방지
- 이미지/컨테이너에는 필수 종속성 및 액세스 권한만 포함됩니다.
유추를 위해 미리 빌드된 Docker 이미지 목록
Important
다음 표에 제공된 목록에는 Azure Machine Learning이 현재 지원하는 유추 Docker 이미지만 포함되어 있습니다.
- 모든 docker 이미지는 루트가 아닌 사용자로 실행됩니다.
- Docker 이미지에는
latest태그를 사용하는 것이 좋습니다. 유추를 위해 미리 빌드된 Docker 이미지는 MCR(Microsoft 컨테이너 레지스트리)에 게시됩니다. 사용 가능한 태그 목록을 쿼리하는 방법에 대한 자세한 내용은 MCR GitHub 리포지토리를 참조하세요. - 유추 Docker 이미지에 특정 태그를 사용하려는 경우 Azure Machine Learning은
latest부터latest의 6개월 이전까지의 태그를 지원합니다.
최소 기본 이미지 유추
| 프레임워크 버전 | CPU/GPU | 미리 설치된 패키지 | MCR 경로 |
|---|---|---|---|
| 해당 없음 | CPU | 해당 없음 | mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cpu-inference:latest |
| 해당 없음 | GPU | 해당 없음 | mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cuda11.6.2-gpu-inference:latest |
| 해당 없음 | CPU | 해당 없음 | mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cpu-inference:latest |
| 해당 없음 | GPU | 해당 없음 | mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cuda11.8-gpu-inference:latest |
참고 항목
Azure Machine Learning은 큐레이팅된 환경을 지원합니다. 큐레이팅된 환경을 찾아 Tags: Inferencing에 대한 필터를 추가할 수 있습니다.