NC A100 v4 시리즈 VM(가상 머신)은 Azure GPU 제품군에 새롭게 추가된 제품입니다. 실제 Azure Applied AI 학습 및 일괄 처리 유추 워크로드에 이 시리즈를 사용할 수 있습니다. NC A100 v4 시리즈는 NVIDIA A100 PCIe GPU 및 3세대 AMD EPYC™ 7V13(밀라노) 프로세서로 구동됩니다. VM에는 최대 4개의 NVIDIA A100 PCIe GPU(각각 80GB 메모리 포함), 최대 96개의 비다중 스레드 AMD EPYC Milan 프로세서 코어 및 880GiB의 시스템 메모리가 탑재되어 있습니다. 이러한 VM은 다음과 같은 실제 적용된 AI 워크로드에 적합합니다.
GPU 가속 분석, 전 및 후처리 자율 모델 학습 오일 및 가스 저수지 시뮬레이션 기계 학습(ML) 개발 비디오 처리 AI/ML 웹 서비스로 데이터베이스 일괄 처리 추론
비고
현재 최신 세대의 NC 제품 라인인 NCads_H100_v5 시리즈에 대한 순 신규 용량만 배포하고 있습니다.
호스트 사양
| 요소 |
수량
개수 단위 |
사양
SKU ID, 성능 단위 등 |
| 프로세서 |
24~96개 vCPU |
AMD EPYC 7V13(밀라노) [x86-64] |
| 메모리 |
220~880GiB |
|
| 로컬 스토리지 |
1개 임시 디스크
1~4개 NVMe 디스크 |
64~256GiB 임시 디스크
960GiB NVMe 디스크 |
| 원격 스토리지 |
8~32개 디스크 |
30000~120000 IOPS
1000~4000MBps |
| 네트워크 |
2~8 NIC |
20000~80000Mbps |
| 바로 연결 |
1~4GPU |
Nvidia PCIe A100 GPU(80GB) |
기능 지원
Premium Storage: 지원됨
Premium Storage 캐싱: 지원됨
실시간 마이그레이션: 지원되지 않음
메모리 보존 업데이트: 지원되지 않음
2세대 VM: 지원됨
1세대 VM: 지원되지 않음
가속화된 네트워킹: 지원됨
임시 OS 디스크: 지원됨
중첩 가상화: 지원되지 않음
시리즈별 크기
각 크기별 vCPU(수량) 및 메모리
| 크기 이름 |
vCPU(수량) |
메모리(GB) |
| Standard_NC24ads_A100_v4 |
24 |
220 |
| Standard_NC48ads_A100_v4 |
48 |
440 |
| Standard_NC96ads_A100_v4 |
96 |
880 |
VM 기본 리소스
각 크기에 대한 로컬(임시) 스토리지 정보
| 크기 이름 |
최대 임시 스토리지 디스크(수량) |
임시 디스크 크기(GiB) |
| Standard_NC24ads_A100_v4 |
1 |
64 |
| Standard_NC48ads_A100_v4 |
1 |
128 |
| Standard_NC96ads_A100_v4 |
1 |
256 |
스토리지 리소스
테이블 정의
-
1임시 디스크 속도는 RR(임의 읽기) 작업과 RW(임의 쓰기) 작업 간에 다른 경우가 많습니다. RR 작업은 일반적으로 RW 작업보다 빠릅니다. RW 속도는 대개 RR 속도 값만 나열되는 계열의 RR 속도보다 느립니다.
- 스토리지 용량 단위는 GiB(1024^3바이트) 단위로 표시됩니다. GB(1000^3바이트) 단위로 측정된 디스크를 GiB(1024^3바이트) 단위로 측정된 디스크와 비교할 때는 GiB 단위로 지정된 용량 수치가 더 작게 표시될 수 있음에 유의해야 합니다. 예를 들어 1023GiB = 1098.4GB입니다.
- 디스크 처리량은 IOPS(초당 입/출력 작업 수) 및 MBps로 측정되며, MBps = 10^6바이트/초입니다.
- VM에 가장 적합한 스토리지 성능을 얻는 방법에 대해 알아보려면 가상 머신 및 디스크 성능을 참조하세요.
각 크기에 대한 원격(캐시되지 않은) 스토리지 정보
| 크기 이름 |
최대 원격 스토리지 디스크(수량) |
캐시되지 않은 디스크 IOPS |
캐시되지 않은 디스크 속도(MBps) |
| Standard_NC24ads_A100_v4 |
8 (여덟) |
30000 |
1000 |
| Standard_NC48ads_A100_v4 |
16 |
60000 |
2000 |
| Standard_NC96ads_A100_v4 (표준 NC96ads A100 v4) |
32 |
120000 |
4000 |
스토리지 리소스
테이블 정의
-
1일부 크기는 디스크 성능을 일시적으로 높이기 위한 버스팅을 지원합니다. 버스트 속도는 한 번에 최대 30분 동안 유지될 수 있습니다.
-
2특수 스토리지는 Ultra Disk 또는 프리미엄 SSD v2 스토리지를 의미합니다.
- 스토리지 용량 단위는 GiB(1024^3바이트) 단위로 표시됩니다. GB(1000^3바이트) 단위로 측정된 디스크를 GiB(1024^3바이트) 단위로 측정된 디스크와 비교할 때는 GiB 단위로 지정된 용량 수치가 더 작게 표시될 수 있음에 유의해야 합니다. 예를 들어 1023GiB = 1098.4GB입니다.
- 디스크 처리량은 IOPS(초당 입/출력 작업 수) 및 MBps로 측정되며, MBps = 10^6바이트/초입니다.
- 데이터 디스크는 캐시된 모드 또는 캐시되지 않은 모드에서 작동할 수 있습니다. 캐시된 데이터 디스크 작업의 경우 호스트 캐시 모드가 ReadOnly 또는 ReadWrite로 설정됩니다. 캐시되지 않은 데이터 디스크 작업의 경우에는 호스트 캐시 모드가 None으로 설정됩니다.
- VM에 가장 적합한 스토리지 성능을 얻는 방법에 대해 알아보려면 가상 머신 및 디스크 성능을 참조하세요.
각 크기에 대한 네트워크 인터페이스 정보
| 크기 이름 |
최대 NIC(수량) |
최대 대역폭(Mbps) |
| Standard_NC24ads_A100_v4 |
2 |
20000 |
| Standard_NC48ads_A100_v4 |
4 |
40,000 |
| Standard_NC96ads_A100_v4 |
8 (여덟) |
80000 |
네트워킹 리소스
테이블 정의
- 예상 네트워크 대역폭은 모든 NIC에서 모든 대상에 대해 VM 유형별로 할당된 최대 집계 대역폭입니다. 자세한 내용은 가상 머신 네트워크 대역폭 참조
- 상한은 보장되지 않습니다. 제한은 원하는 애플리케이션에 적합한 VM 유형을 선택하기 위한 지침을 제공합니다. 실제 네트워크 성능은 네트워크 정체, 애플리케이션 로드 및 네트워크 설정을 비롯한 여러 요인에 따라 달라집니다. 네트워크 처리량 최적화에 대한 정보는 Azure 가상 머신에 대한 네트워크 처리량 최적화를 참조하세요.
- Linux 또는 Windows에서 예상되는 네트워크 성능을 달성하려면 특정 버전을 선택하거나 VM을 최적화해야 할 수도 있습니다. 자세한 내용은 대역폭/처리량 테스트(NTTTCP)를 참조하세요.
각 크기별 가속기(GPU, FPGA 등) 정보
| 크기 이름 |
가속기(수량) |
가속기 메모리(GB) |
| Standard_NC24ads_A100_v4 |
1 |
80 |
| Standard_NC48ads_A100_v4 |
2 |
160 |
| Standard_NC96ads_A100_v4 |
4 |
320 |
사용 가능한 모든 크기 목록: 크기
가격 계산기: 가격 계산기
디스크 유형에 대한 정보: 디스크 유형
다음 단계
가상 머신의 크기를 변경하여 워크로드에 사용할 수 있는 최신 성능과 기능을 활용합니다.
Azure Cobalt VM을 사용하여 Microsoft의 사내 디자인 ARM 프로세서를 활용합니다.
Azure Virtual Machines 모니터링 방법을 알아봅니다.