ND GB200-v6 大小系列

ND-GB200-v6 系列虚拟机（VM）是 Azure GPU 系列的旗舰补充，为深度学习训练、生成 AI 和 HPC 工作负载提供无与伦比的性能。 这些 VM 利用基于 Blackwell 体系结构构建的 NVIDIA GB200 Tensor核心GPU，在计算能力、内存带宽和可伸缩性方面较前几代有显著提升。 每个 ND-GB200-v6 VM 由两个 NVIDIA Grace CPU 和四个 NVIDIA Blackwell GPU 提供支持。 GPU 通过第五代 NVLink 进行互连，每个 VM 总共提供 4× 1.8 TB/s NVLink 带宽。 这种可靠的纵向扩展互连可实现 VM 中 GPU 之间的无缝高速通信。 此外，VM 提供了一个横向扩展后端网络，每个 VM 有 4×400 GB/s 的 NVIDIA Quantum-2 CX7 InfiniBand 连接，确保在互连多个 VM 时实现高吞吐量和低延迟通信。 NVIDIA GB200 NVL72 每个机架最多连接 72 个 GPU，使系统能够作为单台计算机运行。 此 72 GPU 机架规模系统由 18 个 ND GB200 v6 VM 组组成，提供高达 1.4 Exa-FLOPS 的 FP4 Tensor Core 吞吐量、13.5 TB 的共享高带宽内存、130TB/秒的跨节 NVLINK 带宽和 28.8Tb/秒的横向扩展网络。

每个支持整个系统的 VM 配备 128 个 vCPU，该架构经过优化，可以有效地分配 AI 和科学应用程序的工作负载和内存需求。 此设计可实现无缝的多 GPU 缩放和大规模模型的可靠处理。 这些实例为 AI、ML 和分析工作负载提供一流的性能，并提供对 TensorFlow、PyTorch、JAX、RAPIDS 等框架的现成支持。 横向扩展 InfiniBand 互连针对基于 NVIDIA NCCL 通信库构建的现有 AI 和 HPC 工具进行了优化，可确保跨大型群集高效分布式计算。

主机规格

部件	数量 计数单位	规格 SKU ID、性能单位等
处理器	128 个 vCPU	Nvidia Grace CPU
内存	900GB VM	LPDDR
本地存储	4 个磁盘	16TB NVME Direct
远程存储	16 个磁盘	80000 IOPS/1200 MBps
网络	1 个 NIC	160Gb/s 以太网
加速器	4 个 GPU	Nvidia Blackwell GPU （192GB）

功能支持

高级存储：支持
高级存储缓存：支持
实时迁移：不支持
内存保留更新：不支持
第 2 代 VM：受支持
第 1 代 VM：不支持
加速网络：支持
临时 OS 磁盘：受支持
嵌套虚拟化：不支持

系列大小

基础知识

各尺寸的 vCPU 数量和内存

尺码名称	虚拟中央处理器（数量）	内存 (GB)
Standard_ND128isr_NDR_GB200_v6	128	900

VM 基础知识资源

• 检查 vCPU 配额

本地存储

每种大小的本地（临时）存储信息

尺码名称	最大临时存储磁盘（数量）	临时磁盘大小（TB）
Standard_ND128isr_NDR_GB200_v6	4	16

存储资源

• Azure 托管磁盘简介
• Azure 托管磁盘类型
• 共享 Azure 托管磁盘

表定义

• 临时磁盘速度在 RR（随机读取）和 RW（随机写入）操作之间通常存在差异。 RR 操作通常比 RW 操作快。 在仅列出 RR 速度值的系列中，RW 速度通常比 RR 速度慢。
• 存储容量的单位为 GiB 或 1024^3 字节。 比较以 GB（1000^3 字节）为单位的磁盘和以 GiB（1024^3 字节）为单位的磁盘时，请记住以 GiB 为单位的容量数显得更小。 例如，1023 GiB = 1098.4 GB。
• 磁盘吞吐量的单位为每秒输入/输出操作数 (IOPS) 和 Mbps，其中 Mbps = 10^6 字节/秒。
• 如要了解如何为虚拟机获得最佳存储性能，请参阅虚拟机和磁盘性能。

远程存储

每种规格的远程（未缓存）存储信息

尺码名称	最大远程存储磁盘数（数量）	未缓存磁盘 IOPS	未缓存磁盘速度 (MBps)
Standard_ND128isr_NDR_GB200_v6	316	80000	1200

存储资源

• Azure 托管磁盘简介
• Azure 托管磁盘类型
• 共享 Azure 托管磁盘

表定义

• 某些大小支持突发以暂时提高磁盘性能。 爆发速度可以持续长达 30 分钟。
• 特殊存储是指 超级磁盘 或 高级 SSD v2 存储。
• 存储容量的单位为 GiB 或 1024^3 字节。 比较以 GB（1000^3 字节）为单位的磁盘和以 GiB（1024^3 字节）为单位的磁盘时，请记住以 GiB 为单位的容量数显得更小。 例如，1023 GiB = 1098.4 GB。
• 磁盘吞吐量的单位为每秒输入/输出操作数 (IOPS) 和 Mbps，其中 Mbps = 10^6 字节/秒。
• 数据磁盘可以在缓存或非缓存模式下运行。 对于缓存数据磁盘操作，主机缓存模式设置为 “ReadOnly” 或 “ReadWrite”。 对于非缓存数据磁盘操作，主机缓存模式设置为 "None"。
• 如要了解如何为虚拟机获得最佳存储性能，请参阅虚拟机和磁盘性能。

网络

每种规格的网络接口信息

尺码名称	最大前端 NIC（数量）	最大前端带宽（Mbps）	最大纵向扩展 NICS（数量）	最大 Scale-Up 带宽（Gbps）1	最大横向扩展 NICS（数量）	最大 Scale-Out 带宽（TBps）2
Standard_ND128isr_NDR_GB200_v6	1	160	4	400	4	1.8

网络资源

• Azure 中的虚拟网络和虚拟机
• 虚拟机网络带宽

表定义

• ^{每个 NIC 的带宽可支持通过 InfiniBand 连接最多 100,000 个 GPU}
• ² 通过 NVLINK，每个域的带宽高达 72 个 GPU
• 预期的网络带宽是指跨所有 NIC 为每个 VM 类型分配的最大聚合带宽，适用于所有目标。 有关详细信息，请参阅虚拟机网络带宽
• 上限不能保证。 这些限制能够为目标应用程序选择适当的虚拟机类型提供指导。 实际的网络性能取决于多种因素，比如网络拥塞、应用程序负载和网络设置。 有关如何优化网络吞吐量的信息，请参阅为 Azure 虚拟机优化网络吞吐量。
• 如要在 Linux 或 Windows 中达到预期的网络性能，可能需要选择特定的版本或优化虚拟机。 有关详细信息，请参阅带宽/吞吐量测试 (NTTTCP)。

加速器

每种规格的加速器信息（GPU、FPGA 等）

尺码名称	加速器（数量）	加速器内存 (GB)
Standard_ND128isr_NDR_GB200_v6	4	192

其他尺寸信息

所有可用大小的列表：大小

定价计算器：定价计算器

有关磁盘类型的信息：磁盘类型

后续步骤

通过更改虚拟机的大小来利用工作负载可用的最新性能和功能。

利用 Microsoft 内部设计的 ARM 处理器，与 Azure Cobalt VMs 配合使用。

了解如何监视 Azure 虚拟机。