NC A100 v4 시리즈

  • 아티클

주의

이 문서에서는 EOL(수명 종료) 상태에 가까워진 Linux 배포판인 CentOS를 참조하세요. 이에 따라 사용 및 플랜을 고려하세요. 자세한 내용은 CentOS 수명 종료 지침을 참조하세요.

적용 대상: ✔️ Linux VM ✔️ Windows VM ✔️ 유연한 확장 집합 ✔️ 균일한 확장 집합

NC A100 v4 시리즈 VM(가상 머신)은 Azure GPU 제품군에 새롭게 추가된 제품입니다. 실제 Azure Applied AI 학습 및 일괄 처리 유추 워크로드에 이 시리즈를 사용할 수 있습니다.

NC A100 v4 시리즈는 NVIDIA A100 PCIe GPU 및 3세대 AMD EPYC™ 7V13(밀라노) 프로세서로 구동됩니다. VM에는 최대 4개의 NVIDIA A100 PCIe GPU(각각 80GB 메모리 포함), 최대 96개의 비다중 스레드 AMD EPYC Milan 프로세서 코어 및 880GiB의 시스템 메모리가 탑재되어 있습니다. 이러한 VM은 다음과 같은 실제 적용된 AI 워크로드에 적합합니다.

  • GPU 가속 분석 및 데이터베이스
  • 사전 처리 및 사후 처리가 많은 일괄 처리 유추
  • 자율 모델 학습
  • 석유 및 가스 저장소 시뮬레이션
  • ML(기계 학습) 개발
  • 비디오 처리
  • AI/ML 웹 서비스

지원되는 기능

NC A100 v4 VM을 시작하려면 HPC 워크로드 구성 및 최적화에서 드라이버 및 네트워크 구성 등의 단계를 참조하세요.

GPU 메모리 I/O 공간의 증가로 인해 NC A100 v4는 2세대 VM 및 마켓플레이스 이미지를 사용해야 합니다. Azure HPC 이미지를 권장하지만 Azure HPC Ubuntu 20.04 및 Azure HPC CentOS 7.9, RHEL 8.8, RHEL 9.2, Windows Server 2019 및 Windows Server 2022 이미지가 지원됩니다.

크기 vCPU 메모리(GiB) 임시 디스크1(GiB) NVMe 디스크2 GPU3 GPU 메모리(GiB) 최대 데이터 디스크 수 최대 캐시되지 않은 디스크 처리량(IOPS/MBps) 최대 NIC/네트워크 대역폭(MBps)
Standard_NC24ads_A100_v4 24 220 64 960GB 1 80 8 30000/1000 2/20,000
Standard_NC48ads_A100_v4 48 440 128 2x960GB 2 160 16 60000/2000 4/40,000
Standard_NC96ads_A100_v4 96 880 256 4x960GB 4 320 32 120000/4000 8/80,000

1 NC A100 v4 시리즈 VM에는 OS 페이징/스왑 파일용 표준 SCSI 기반 임시 리소스 디스크가 있습니다. 이 경우 NVMe 드라이브는 완전히 애플리케이션 전용일 수 있습니다. 이는 임시 디스크이며 중지/할당 취소 시 모든 데이터가 손실됩니다.

2 로컬 NVMe 디스크는 임시 디스크이며 VM을 중지/할당 취소할 경우 이러한 디스크의 데이터가 손실됩니다. 로컬 NVMe 디스크는 RAM으로 제공되므로 새로 배포된 VM에서 수동으로 포맷해야 합니다.

3GPU 1개 = A100 80GB PCIe GPU 카드 1개

크기 테이블 정의

  • 스토리지 용량 단위는 GiB(1024^3바이트) 단위로 표시됩니다. GB(1000^3바이트) 단위로 측정된 디스크를 GiB(1024^3바이트) 단위로 측정된 디스크와 비교할 때는 GiB 단위로 지정된 용량 수치가 더 작게 표시될 수 있음에 유의해야 합니다. 예를 들어 1023GiB = 1098.4GB입니다.

  • 디스크 처리량은 IOPS(초당 입/출력 작업 수) 및 MBps로 측정되며, MBps = 10^6바이트/초입니다.

  • 데이터 디스크는 캐시된 모드 또는 캐시되지 않은 모드에서 작동할 수 있습니다. 캐시된 데이터 디스크 작업의 경우 호스트 캐시 모드가 ReadOnly 또는 ReadWrite로 설정됩니다. 캐시되지 않은 데이터 디스크 작업의 경우에는 호스트 캐시 모드가 None으로 설정됩니다.

  • VM에 가장 적합한 스토리지 성능을 얻는 방법에 대해 알아보려면 가상 머신 및 디스크 성능을 참조하세요.

  • 예상 네트워크 대역폭은 모든 NIC에서 모든 대상에 대해 VM 유형별로 할당된 최대 집계 대역폭입니다. 자세한 내용은 가상 머신 네트워크 대역폭을 참조하세요.

    상한은 보장되지 않습니다. 제한은 원하는 애플리케이션에 적합한 VM 유형을 선택하기 위한 지침을 제공합니다. 실제 네트워크 성능은 네트워크 정체, 애플리케이션 로드 및 네트워크 설정을 비롯한 여러 요인에 따라 달라집니다. 네트워크 처리량 최적화에 대한 정보는 Azure 가상 머신에 대한 네트워크 처리량 최적화를 참조하세요. Linux 또는 Windows에서 예상되는 네트워크 성능을 달성하려면 특정 버전을 선택하거나 VM을 최적화해야 할 수도 있습니다. 자세한 내용은 대역폭/처리량 테스트(NTTTCP)를 참조하세요.

기타 크기 및 정보

가격 책정 계산기를 사용하여 Azure VM 비용을 예측할 수 있습니다.

디스크 유형에 대한 자세한 내용은 Azure에서 사용할 수 있는 디스크 유형을 참조하세요.

다음 단계