관리 온라인 엔드포인트 SKU 목록
다음 표에서는 Azure Machine Learning 관리형 온라인 엔드포인트에 대해 지원되는 VM(가상 머신) SKU(재고 유지 단위)를 보여 줍니다. 각 SKU는 구매할 수 있는 특정 VM에 할당된 고유한 영숫자 코드입니다.
표에 나열된 전체 SKU 이름은 배포를 만들고 업데이트하기 위해 Azure CLI 또는 ARM 템플릿(Azure Resource Manager 템플릿) 요청에 사용할 수 있습니다.
CPU 및 RAM과 같은 구성 세부 사항에 대한 자세한 내용은 Azure Machine Learning 가격 책정 및 VM 크기를 참조하세요.
| 성 | VM 크기 이름 | Infiniband 지원 | 아키텍처 | numberOfGPU | numberOfCores | 20% 예약 건너뛰기 |
|---|---|---|---|---|---|---|
| standardDASv4Family | STANDARD_D2AS_V4 | - | Cpu | 0 | 2 | - |
| standardDASv4Family | STANDARD_D4AS_V4 | - | Cpu | 0 | 4 | - |
| standardDASv4Family | STANDARD_D8AS_V4 | - | Cpu | 0 | 8 | - |
| standardDASv4Family | STANDARD_D16AS_V4 | - | Cpu | 0 | 16 | - |
| standardDASv4Family | STANDARD_D32AS_V4 | - | Cpu | 0 | 32 | - |
| standardDASv4Family | STANDARD_D48AS_V4 | - | Cpu | 0 | 48 | - |
| standardDASv4Family | STANDARD_D64AS_V4 | - | Cpu | 0 | 64 | - |
| standardDASv4Family | STANDARD_D96AS_V4 | - | Cpu | 0 | 96 | - |
| standardDAv4Family | STANDARD_D2A_V4 | - | Cpu | 0 | 2 | - |
| standardDAv4Family | STANDARD_D4A_V4 | - | Cpu | 0 | 4 | - |
| standardDAv4Family | STANDARD_D8A_V4 | - | Cpu | 0 | 8 | - |
| standardDAv4Family | STANDARD_D16A_V4 | - | Cpu | 0 | 16 | - |
| standardDAv4Family | STANDARD_D32A_V4 | - | Cpu | 0 | 32 | - |
| standardDAv4Family | STANDARD_D48A_V4 | - | Cpu | 0 | 48 | - |
| standardDAv4Family | STANDARD_D64A_V4 | - | Cpu | 0 | 64 | - |
| standardDAv4Family | STANDARD_D96A_V4 | - | Cpu | 0 | 96 | - |
| standardDSv2Family | STANDARD_DS1_V2 | - | Cpu | 0 | 1 | - |
| standardDSv2Family | STANDARD_DS2_V2 | - | Cpu | 0 | 2 | - |
| standardDSv2Family | STANDARD_DS3_V2 | - | Cpu | 0 | 4 | - |
| standardDSv2Family | STANDARD_DS4_V2 | - | Cpu | 0 | 8 | - |
| standardDSv2Family | STANDARD_DS5_V2 | - | Cpu | 0 | 16 | - |
| standardESv3Family | STANDARD_E2S_V3 | - | Cpu | 0 | 2 | - |
| standardESv3Family | STANDARD_E4S_V3 | - | Cpu | 0 | 4 | - |
| standardESv3Family | STANDARD_E8S_V3 | - | Cpu | 0 | 8 | - |
| standardESv3Family | STANDARD_E16S_V3 | - | Cpu | 0 | 16 | - |
| standardESv3Family | STANDARD_E32S_V3 | - | Cpu | 0 | 32 | - |
| standardESv3Family | STANDARD_E48S_V3 | - | Cpu | 0 | 48 | - |
| standardESv3Family | STANDARD_E64S_V3 | - | Cpu | 0 | 64 | - |
| standardFSv2Family | STANDARD_F2S_V2 | - | Cpu | 0 | 2 | - |
| standardFSv2Family | STANDARD_F4S_V2 | - | Cpu | 0 | 4 | - |
| standardFSv2Family | STANDARD_F8S_V2 | - | Cpu | 0 | 8 | - |
| standardFSv2Family | STANDARD_F16S_V2 | - | Cpu | 0 | 16 | - |
| standardFSv2Family | STANDARD_F32S_V2 | - | Cpu | 0 | 32 | - |
| standardFSv2Family | STANDARD_F48S_V2 | - | Cpu | 0 | 48 | - |
| standardFSv2Family | STANDARD_F64S_V2 | - | Cpu | 0 | 64 | - |
| standardFSv2Family | STANDARD_F72S_V2 | - | Cpu | 0 | 72 | - |
| standardFXMDVSFamily | STANDARD_FX4MDS | - | Cpu | 0 | 4 | - |
| standardFXMDVSFamily | STANDARD_FX12MDS | - | Cpu | 0 | 12 | - |
| standardFXMDVSFamily | STANDARD_FX24MDS | - | Cpu | 0 | 24 | - |
| standardFXMDVSFamily | STANDARD_FX36MDS | - | Cpu | 0 | 36 | - |
| standardFXMDVSFamily | STANDARD_FX48MDS | - | Cpu | 0 | 48 | - |
| standardLASv3Family | STANDARD_L8AS_V3 | - | Cpu | 0 | 8 | - |
| standardLASv3Family | STANDARD_L16AS_V3 | - | Cpu | 0 | 16 | - |
| standardLASv3Family | STANDARD_L32AS_V3 | - | Cpu | 0 | 32 | - |
| standardLASv3Family | STANDARD_L48AS_V3 | - | Cpu | 0 | 48 | - |
| standardLASv3Family | STANDARD_L64AS_V3 | - | Cpu | 0 | 64 | - |
| standardLASv3Family | STANDARD_L80AS_V3 | - | Cpu | 0 | 80 | - |
| standardLSv2Family | STANDARD_L8S_V2 | - | Cpu | 0 | 8 | - |
| standardLSv2Family | STANDARD_L16S_V2 | - | Cpu | 0 | 16 | - |
| standardLSv2Family | STANDARD_L32S_V2 | - | Cpu | 0 | 32 | - |
| standardLSv2Family | STANDARD_L48S_V2 | - | Cpu | 0 | 48 | - |
| standardLSv2Family | STANDARD_L64S_V2 | - | Cpu | 0 | 64 | - |
| standardLSv2Family | STANDARD_L80S_V2 | - | Cpu | 0 | 80 | - |
| standardLSv3Family | STANDARD_L8S_V3 | - | Cpu | 0 | 8 | - |
| standardLSv3Family | STANDARD_L16S_V3 | - | Cpu | 0 | 16 | - |
| standardLSv3Family | STANDARD_L32S_V3 | - | Cpu | 0 | 32 | - |
| standardLSv3Family | STANDARD_L48S_V3 | - | Cpu | 0 | 48 | - |
| standardLSv3Family | STANDARD_L64S_V3 | - | Cpu | 0 | 64 | - |
| standardLSv3Family | STANDARD_L80S_V3 | - | Cpu | 0 | 80 | - |
| standardNCADSA100v4Family | STANDARD_NC24ADS_A100_V4 | - | NvidiaGpu | 1 | 24 | 예 |
| standardNCADSA100v4Family | STANDARD_NC48ADS_A100_V4 | - | NvidiaGpu | 2 | 48 | 예 |
| standardNCADSA100v4Family | STANDARD_NC96ADS_A100_V4 | - | NvidiaGpu | 4 | 96 | 예 |
| 표준 NCASv3_T4 제품군 | STANDARD_NC4AS_T4_V3 | - | NvidiaGpu | 1 | 4 | - |
| 표준 NCASv3_T4 제품군 | STANDARD_NC8AS_T4_V3 | - | NvidiaGpu | 1 | 8 | - |
| 표준 NCASv3_T4 제품군 | STANDARD_NC16AS_T4_V3 | - | NvidiaGpu | 1 | 16 | - |
| 표준 NCASv3_T4 제품군 | STANDARD_NC64AS_T4_V3 | - | NvidiaGpu | 4 | 64 | - |
| standardNCSv2Family | STANDARD_NC6S_V2 | - | NvidiaGpu | 1 | 6 | - |
| standardNCSv2Family | STANDARD_NC12S_V2 | - | NvidiaGpu | 2 | 12 | - |
| standardNCSv2Family | STANDARD_NC24S_V2 | - | NvidiaGpu | 4 | 24 | - |
| standardNCSv3Family | STANDARD_NC6S_V3 | - | NvidiaGpu | 1 | 6 | - |
| standardNCSv3Family | STANDARD_NC12S_V3 | - | NvidiaGpu | 2 | 12 | - |
| standardNCSv3Family | STANDARD_NC24S_V3 | - | NvidiaGpu | 4 | 24 | - |
| standardNCADSH100v5Family | STANDARD_NC40ADS_H100_V5 | - | NvidiaGpu | 1 | 40 | 예 |
| standardNCADSH100v5Family | STANDARD_NC80ADIS_H100_V5 | - | NvidiaGpu | 2 | 80 | 예 |
| 표준 NDAMSv4_A100Family | STANDARD_ND96AMSR_A100_V4 | 예 | NvidiaGpu | 8 | 96 | 예 |
| 표준 NDASv4_A100 제품군 | STANDARD_ND96ASR_V4 | 예 | NvidiaGpu | 8 | 96 | 예 |
| standardNDSv2Family | STANDARD_ND40RS_V2 | 예 | NvidiaGpu | 8 | 40 | 예 |
| standardNDv5H100Family | STANDARD_ND96IS_H100_v5 | - | NvidiaGpu | 8 | 96 | 예 |
| standardNDv5H100Family | STANDARD_ND96ISR_H100_v5 | 예 | NvidiaGpu | 8 | 96 | 예 |
주의
작은 VM SKU(예: Standard_DS1_v2 Standard_F2s_v2 더 큰 모델에 비해 너무 작거나 작을 수 있음)는 메모리 부족, 디스크의 공간이 부족하거나 컨테이너를 시작하는 데 너무 오래 걸리기 때문에 프로브 오류로 인해 컨테이너 종료로 이어질 수 있습니다. OutOfQuota 오류 또는 ReourceNotReady 오류가 발생하면 더 큰 VM SKU를 사용해 보세요. 관리형 온라인 엔드포인트를 사용하여 여러 모델을 배포하는 비용을 줄이려면 여러 로컬 모델에 대한 배포를 참조하세요.
참고 항목
프로덕션 시나리오에서 배포를 위해 인스턴스가 3개 이상 있는 것이 좋습니다. 또한 Azure Machine Learning은 배포를 위한 가상 머신 할당량 할당에 설명된 대로 일부 VM SKU에서 업그레이드를 수행하기 위해 컴퓨팅 리소스의 20%를 예약합니다. 이 추가 할당량 예약에서 제외된 VM SKU는 "20% 예약 건너뛰기" 열에 지정됩니다.