Azure 기밀 GPU는 SEV-SNP 기술을 적용한 AMD 4세대 EPYC 프로세서와 NVIDIA H100 Tensor Core GPU를 기반으로 합니다. 이 VM SKU에서 TEE(신뢰할 수 있는 실행 환경)는 CPU 및 연결된 GPU의 기밀 VM에 걸쳐 있으므로 데이터, 모델 및 계산을 GPU로 안전하게 오프로드할 수 있습니다.
크기
다음과 같은 VM 크기를 제공합니다.
| 크기 제품군 | 티셔츠 | 설명 |
|---|---|---|
| NCCadsH100v5 시리즈 | AMD SEV-SNP 및 NVIDIA H100 Tensor Core GPU | 기밀 GPU를 탑재한 CVM. |
Azure 커맨드 라인 인터페이스 (CLI)
Azure CLI를 기밀 GPU VM과 함께 사용할 수 있습니다.
기밀 VM 크기 목록을 보려면 다음 명령을 실행합니다.
<vm-series>를 사용하려는 시리즈로 바꿉니다. 출력에는 사용 가능한 지역 및 가용성 영역에 대한 정보가 표시됩니다.
vm_series='NCC'
az vm list-skus \
--size dc \
--query "[?family=='standard${vm_series}Family'].{name:name,locations:locationInfo[0].location,AZ_a:locationInfo[0].zones[0],AZ_b:locationInfo[0].zones[1],AZ_c:locationInfo[0].zones[2]}" \
--all \
--output table
자세한 목록을 보려면 다음 명령을 대신 실행합니다.
vm_series='NCC'
az vm list-skus \
--size dc \
--query "[?family=='standard${vm_series}Family']"
배포 고려 사항
기밀 GPU VM을 배포하기 전에 다음 설정 및 선택 사항을 고려합니다.
Azure 구독
기밀 GPU VM 인스턴스를 배포하려면 종량제 구독 또는 기타 구매 옵션을 고려합니다. Azure 무료 계정을 사용하는 경우 할당량은 적절한 수의 Azure 컴퓨팅 코어를 허용하지 않습니다.
Azure 구독의 코어 할당량을 기본값에서 늘려야 할 수 있습니다. 기본 제한은 구독 범주에 따라 달라집니다. 구독에 따라서도 기밀 VM 시리즈를 포함하여 특정 VM 크기 제품군에 배포할 수 있는 코어 수가 제한될 수 있습니다.
할당량 증가를 요청하려면 온라인 고객 지원 요청을 엽니다.
대규모 용량이 필요한 경우 Azure 지원에 문의하세요. Azure 할당량은 신용 제한이며 용량 보증이 아닙니다. 사용하는 코어에 대해서만 요금이 부과됩니다.
가격 책정
가격 책정 옵션은 Linux Virtual Machines 가격 책정을 참조하세요.
국가별 가용성
가용성 정보는 Azure 지역에서 사용할 수 있는 VM 제품을 참조하세요.
크기 조정
기밀 GPU VM은 특수 하드웨어에서 실행되며 현재 크기 조정은 지원되지 않습니다.
게스트 OS 지원
기밀 VM에 대한 OS 이미지는 특정 보안 및 호환성 요구 사항을 충족해야 합니다. 정규화된 이미지는 보안 탑재, 증명, 선택적 기밀 OS 디스크 암호화 및 기본 클라우드 인프라로부터의 격리를 지원합니다. 이러한 이미지는 다음과 같습니다.
- Ubuntu 22.04 LTS
지원되거나 지원되지 않는 VM 시나리오에 대한 자세한 내용은 Azure의 2세대 VM 지원을 참조하세요.
고가용성 및 재해 복구
기밀 GPU VM에 대한 고가용성 및 재해 복구 솔루션을 만들 책임이 있습니다. 이러한 시나리오를 계획하면 가동 중지 시간이 길어지는 것을 최소화하고 방지할 수 있습니다.
다음 단계
자세한 내용은 기밀 VM FAQ를 참조하세요.