Batch 풀에서 RDMA 또는 GPU 인스턴스 사용
특정 Batch 작업을 실행하려면 대규모 컴퓨팅을 위해 설계된 Azure VM 크기를 활용할 수 있습니다. 예시:
다중 인스턴스 MPI 워크로드를 실행하려면 HB, HC, NC 또는 ND 시리즈 또는 RDMA(원격 직접 메모리 액세스)에 대한 네트워크 인터페이스가 있는 다른 크기를 선택합니다. 이러한 크기는 MPI 애플리케이션을 가속화할 수 있는 노드 간 통신에 대한 InfiniBand 네트워크에 연결합니다.
CUDA 애플리케이션의 경우 NVIDIA Tesla GPU(그래픽 처리 디바이스) 카드를 포함하는 N 시리즈 크기를 선택합니다.
이 문서는 Batch 풀에서 Azure의 특별한 크기 중 일부를 사용하는 지침과 예제를 제공합니다. 사양 및 백그라운드는 다음을 참조하세요.
참고 항목
특정 VM 크기는 배치 계정을 만든 지역에서 사용하지 못할 수도 있습니다. 크기를 사용할 수 있는지를 확인하려면 지역별 사용 가능한 제품 및 Batch 풀에 맞는 VM 크기 선택을 참조하세요.
종속성
Batch에서 컴퓨팅 집약적인 크기의 RDMA 또는 GPU 기능은 특정 운영 체제에서만 지원됩니다. 이러한 VM 크기에 지원되는 운영 체제에는 가상 머신을 만드는 데 사용할 수 있는 하위 집합만 포함됩니다. Batch 풀을 만드는 방법에 따라 노드에 추가 드라이버 또는 기타 소프트웨어를 설치하거나 구성해야 할 수 있습니다. 다음 표에서는 이러한 종속성을 요약합니다. 자세한 내용은 연결된 문서를 참조하세요. Batch 풀을 구성하는 옵션은 이 문서의 뒷부분을 참조하세요.
Linux 풀 - 가상 머신 구성
| 크기 | 기능 | 운영 체제 | 필수 소프트웨어 | 풀 설정 |
|---|---|---|---|---|
| H16r, H16mr NC24r, NC24rs_v2, NC24rs_v3, ND24rs* |
RDMA | Ubuntu 22.04 LTS (Azure Marketplace) |
Intel MPI 5 Linux RDMA 드라이버 |
노드 간 통신 사용, 동시 작업 실행 사용 안 함 |
| NCv3, NDv2, NDv4, NDv5 시리즈 | NVIDIA Tesla GPU(시리즈에 따라 다름) | Ubuntu 22.04 LTS (Azure Marketplace) |
NVIDIA CUDA 또는 CUDA Toolkit 드라이버 | 해당 없음 |
| NVv3, NVv4, NVv5 시리즈 | 가속 시각화 GPU | Ubuntu 22.04 LTS (Azure Marketplace) |
NVIDIA GRID 드라이버(필요한 경우) | 해당 없음 |
*RDMA 지원 N 시리즈 크기에는 NVIDIA Tesla GPU도 포함됨
Important
이 문서에서는 EOL(수명 종료)에 도달했거나 근접하는 Linux의 릴리스 버전을 참조합니다. 최신 버전으로 업데이트하는 것이 좋습니다.
Windows 풀 - Virtual Machine 구성
| 크기 | 기능 | 운영 체제 | 필수 소프트웨어 | 풀 설정 |
|---|---|---|---|---|
| H16r, H16mr NC24r, NC24rs_v2, NC24rs_v3, ND24rs* |
RDMA | Windows Server 2016, 2012 R2 또는 2012(Azure Marketplace) |
Microsoft MPI 2012 R2 이상 또는 Intel MPI 5 Windows RDMA 드라이버 |
노드 간 통신 사용, 동시 작업 실행 사용 안 함 |
| NC, NCv2, NCv3, ND, NDv2 시리즈 | NVIDIA Tesla GPU(시리즈에 따라 다름) | Windows Server 2016 또는 2012 R2(Azure Marketplace) |
NVIDIA CUDA 또는 CUDA Toolkit 드라이버 | 해당 없음 |
| NV, NVv2, NVv4 시리즈 | NVIDIA Tesla M60 GPU | Windows Server 2016 또는 2012 R2(Azure Marketplace) |
NVIDIA GRID 드라이버 | 해당 없음 |
*RDMA 지원 N 시리즈 크기에는 NVIDIA Tesla GPU도 포함됨
Windows 풀 - Cloud Services 구성
Warning
Cloud Services 구성 풀은 사용되지 않습니다. 대신 Virtual Machine 구성 풀을 사용하세요.
| 크기 | 기능 | 운영 체제 | 필수 소프트웨어 | 풀 설정 |
|---|---|---|---|---|
| H16r, H16mr | RDMA | Windows Server 2016, 2012 R2, 2012 또는 2008 R2(게스트 OS 제품군) |
Microsoft MPI 2012 R2 이상 또는 Intel MPI 5 Windows RDMA 드라이버 |
노드 간 통신 사용 동시 작업 실행 사용 안 함 |
참고 항목
Cloud Services 구성 풀에서는 N 시리즈 크기가 지원되지 않습니다.
풀 구성 옵션
Batch 풀에 대해 특별한 VM 크기를 구성하려면 필수 소프트웨어 또는 드라이버를 설치하는 몇 가지 옵션이 있습니다.
가상 머신 구성의 풀인 경우 드라이버 및 소프트웨어가 미리 설치되어 미리 구성된 Azure Marketplace VM 이미지를 선택합니다. 예:
Linux 또는 Windows용 Data Science Virtual Machine - NVIDIA CUDA 드라이버 포함
GPU 및 RDMA 드라이버도 포함하는 Batch 컨테이너 워크로드에 대한 Linux 이미지:
설치된 드라이버, 소프트웨어 또는 VM 크기에 필요한 기타 설정을 사용하여 사용자 지정 Windows 또는 Linux VM 이미지를 만듭니다.
압축된 드라이버 또는 애플리케이션 설치 관리자에서 Batch 애플리케이션 패키지를 만듭니다. 그런 다음, 이 패키지를 풀 노드에 배포하고 각 노드를 만들 때 한 번 설치하도록 Batch를 구성합니다. 예를 들어 애플리케이션 패키지가 설치 관리자인 경우 자동으로 모든 풀 노드에서 앱을 설치하는 시작 작업 명령줄을 만듭니다. 워크로드가 특정 드라이버 버전에 따라 달라지는 경우 애플리케이션 패키지 및 풀 시작 작업을 사용하는 것이 좋습니다.
참고 항목
시작 태스크는 상승된(관리자) 권한으로 실행해야 하며 성공을 기다려야 합니다. 장기 실행 작업은 Batch 풀을 프로비전하는 시간이 증가합니다.
예제: Windows NC VM 풀의 NVIDIA GPU 드라이버
Windows NC 노드의 풀에서 CUDA 애플리케이션을 실행하려면 NVDIA GPU 드라이버를 설치해야 합니다. 다음 샘플 단계에서는 애플리케이션 패키지를 사용하여 NVIDIA GPU 드라이버를 설치합니다. 워크로드가 특정 GPU 드라이버 버전에 따라 달라지는 경우 이 옵션을 선택할 수 있습니다.
- NVIDIA 웹 사이트에서 Windows Server 2016에 GPU 드라이버 설치 패키지를 다운로드합니다. 예를 들면 411.82 버전입니다. GPUDriverSetup.exe와 같은 짧은 이름을 사용하여 파일을 로컬에 저장합니다.
- 패키지의 zip 파일을 만듭니다.
- Batch 계정에 패키지를 업로드합니다. 단계는 애플리케이션 패키지 지침을 참조하세요. GPUDriver와 같은 애플리케이션 ID 및 411.82와 같은 버전을 지정합니다.
- Batch API 또는 Azure Portal을 사용하여 원하는 수의 노드 및 규모로 가상 머신 구성에서 풀을 만듭니다. 다음 표에서는 시작 작업을 사용하여 NVIDIA GPU 드라이버를 자동으로 설치하는 샘플 설정을 보여줍니다.
| 설정 | 값 |
|---|---|
| 이미지 형식 | Marketplace(Linux/Windows) |
| 게시자 | MicrosoftWindowsServer |
| 제안 | WindowsServer |
| Sku | 2016-Datacenter |
| 노드 크기 | NC6 표준 |
| 애플리케이션 패키지 참조 | GPUDriver, 버전 411.82 |
| 시작 작업 사용 | True 명령줄 - cmd /c "%AZ_BATCH_APP_PACKAGE_GPUDriver#411.82%\\GPUDriverSetup.exe /s"사용자 ID - 풀 autouser, 관리자 성공 대기 - True |
예제: Linux NC VM 풀의 NVIDIA GPU 드라이버
Linux NC 노드의 풀에서 CUDA 애플리케이션을 실행하려면 CUDA Toolkit에서 필요한 NVIDIA Tesla GPU 드라이버를 설치해야 합니다. GPU 드라이버에서 사용자 지정 Ubuntu 22.04 LTS 이미지를 만들고 배포하는 샘플 단계는 다음과 같습니다.
- Ubuntu 22.04 LTS를 실행하는 Azure NC 시리즈 VM을 배포합니다. 예를 들어, 미국 중남부 지역에서 VM을 만듭니다.
- Azure Portal, Azure 구독에 연결하는 클라이언트 컴퓨터 또는 Azure Cloud Shell을 사용하여 NVIDIA GPU 드라이버 확장을 VM에 추가합니다. 또는 VM에 연결하고 CUDA 드라이버를 수동으로 설치하는 다음 단계를 수행합니다.
- Batch용 Azure Compute Gallery 이미지를 만드는 단계를 수행합니다.
- NC VM을 지원하는 영역에서 Batch 계정을 만듭니다.
- Batch API 또는 Azure Portal을 사용하여 원하는 수의 노드 및 규모로 사용자 지정 이미지를 사용하는 풀을 만듭니다. 다음 표에서는 이미지의 샘플 풀 설정을 보여줍니다.
| 설정 | 값 |
|---|---|
| 이미지 형식 | 사용자 지정 이미지 |
| 사용자 지정 이미지 | 이미지 이름 |
| 노드 에이전트 SKU | batch.node.ubuntu 22.04 |
| 노드 크기 | NC6 표준 |
예제: Windows H16r VM 풀에서 Microsoft MPI
Azure H16r VM 노드 풀에서 Windows MPI 애플리케이션을 실행하려면 HpcVmDrivers 확장을 구성하고 Microsoft MPI를 설치해야 합니다. 필요한 드라이버와 소프트웨어와 함께 사용자 지정 Windows Server 2016 이미지를 배포하는 샘플 단계는 다음과 같습니다.
- Windows Server 2016을 실행하는 Azure H16r VM을 배포합니다. 예를 들어, 미국 서부 지역에서 VM을 만듭니다.
- Azure 구독에 연결하는 클라이언트 컴퓨터에서 Azure PowerShell 명령을 실행하거나 Azure Cloud Shell을 사용하여 VM에 HpcVmDrivers 확장을 추가합니다.
- VM에 대한 원격 데스크톱 연결을 만듭니다.
- 최신 버전의 Microsoft MPI에 대한 설치 패키지(MSMpiSetup.exe)를 다운로드하고 Microsoft MPI를 설치합니다.
- Batch용 Azure Compute Gallery 이미지를 만드는 단계를 수행합니다.
- Batch API 또는 Azure Portal을 사용하여 원하는 수의 노드 및 규모로 Azure Compute Gallery 이미지를 사용하여 풀을 만듭니다. 다음 표에서는 이미지의 샘플 풀 설정을 보여줍니다.
| 설정 | 값 |
|---|---|
| 이미지 형식 | 사용자 지정 이미지 |
| 사용자 지정 이미지 | 이미지 이름 |
| 노드 에이전트 SKU | batch.node.windows amd64 |
| 노드 크기 | H16r Standard |
| 노드 간 통신 사용 | True |
| 노드당 최대 작업 | 1 |