ND-MI300X-v5 大小系列
ND MI300X v5 系列虛擬機器 (VM) 是 Azure GPU 系列新的主打產品。 它專為高階深度學習訓練所設計,緊密結合擴大又擴增的生成式 AI 和 HPC 工作負載。
ND MI300X v5 系列 VM 從八個 AMD Instinct MI300 GPU 和兩個第四代 Intel Xeon Scalable 處理器開始,總共有 96 個實體核心。 然後,VM 中的每個 GPU 都會透過第 4 代 AMD Infinity Fabric 連結彼此連線,而每個 GPU 的頻寬為 128 GB/秒,彙總頻寬為 896 GB/秒。
以 ND MI300X v5 為基礎的部署可以擴大至數千個 GPU,每個 VM 的互連頻寬為 3.2 Tb/秒。 VM 內的每個 GPU 隨附自己專用、與拓撲無關的 400 Gb/秒 NVIDIA Quantum-2 CX7 InfiniBand 連線。 這些連線會在佔用相同虛擬機器擴展集的 VM 之間自動設定,並支援 GPUDirect RDMA。
這些執行個體可為許多支援 GPU 加速「現成可用」的 AI、ML 和分析工具 (例如 TensorFlow、Pytorch 和其他架構) 提供絕佳的效能。 此外,擴增的 InfiniBand 互連支援大量現有的 AI 和 HPC 工具,這些工具以 AMD 的 ROCm Communication Collectives Library (RCCL) 為建置基礎,可以順暢地群集 GPU。
主機規格
部分 | 數量 計數單位 |
規格 SKU 識別碼、效能單位等。 |
---|---|---|
處理器 | 96 個 vCPU | Intel Xeon (Sapphire Rapids) [x86-64] |
記憶體 | 1850 GiB | |
本機儲存體 | 1 個磁碟 | 1000 GiB |
遠端儲存體 | 32 個磁碟 | 40800 IOPS 612 MBps |
網路 | 8 張NIC | |
加速器 | 8 GPUs | AMD Instinct MI300X GPU (192GB) |
功能支援
進階儲存體:支援
進階儲存體快取:支援
即時移轉:不支援
記憶體保留更新:不支援
第 2 代 VM:支援
第 1 代 VM:不支援
加速網路:支援
暫時性 OS 磁碟:支援
巢狀虛擬化:不支援
系列中的大小
每個大小的 vCPU (數量) 和記憶體
大小名稱 | vCPU (數量) | 記憶體 (GB) |
---|---|---|
Standard_ND96isr_MI300X_v5 | 96 | 1850 |
VM 基本資源
其他大小資訊
所有可用大小清單:大小
定價計算機:定價計算機
磁碟類型的相關資訊:磁碟類型
下一步
深入了解 Azure 計算單位 (ACU) 如何協助您比較各個 Azure SKU 的計算效能。
請參閱 Azure 專用主機,讓實體伺服器能夠裝載指派給一個 Azure 訂用帳戶的一或多部虛擬機器。
了解如何監視 Azure 虛擬機器。