你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn

ND-H200-v5 大小系列

ND v5 H200 系列虚拟机旨在为 AI 和高性能计算 (HPC) 工作负载提供卓越的性能。 这些虚拟机利用 NVIDIA H200 Tensor Core GPU 的强大功能(比 H100 GPU 提供的高带宽内存增加 76%),从而在最先进的生成式 AI 模型中提供更高的性能。 H200 GPU 具有 141 GB 的高速内存和 4.8 TB/秒的内存带宽,可以处理更大的数据集和更复杂的模型,因此非常适合生成式 AI 和科学计算。

ND H200 v5 系列以单个虚拟机和 8 个 NVIDIA H200 Tensor Core GPU 开头,与 900 GB/s NVLink 互连。 基于 ND H200 v5 的部署可以纵向扩展到成千上万个 GPU,每个虚拟机的互连带宽为 3.2Tb/秒。 VM 内的每个 GPU 都具备其自己专用的、与拓扑无关的 400 Gb/秒 NVIDIA Quantum-2 CX7 InfiniBand 连接。 这些连接在占用同一虚拟机规模集的 VM 之间自动配置,并且支持 GPUDirect RDMA。

这些实例为众多 AI、ML、支持 GPU 加速的现成分析工具(如 TensorFlow、Pytorch、Caffe、RAPIDS)以及其他框架提供卓越的性能。 此外,一大组基于 NVIDIA 的 NCCL 通信库构建的现有 AI 和 HPC 工具都支持横向扩展 InfiniBand 互连,以便实现无缝的 GPU 群集化。

主机规格

组成部分 数量
计数单位
规格
SKU ID、性能单位等
处理器 96 个 vCPU Intel Xeon (Sapphire Rapids) [x86-64]
内存 1850 GiB
本地存储 1 个磁盘 28000 GiB
远程存储 16Disks
网络 8个 NIC
加速器 8 个 GPU Nvidia H200 GPU (141GB)

功能支持

高级存储:支持
高级存储缓存:支持
实时迁移:不支持
内存保留更新:不支持
第 2 代 VM:支持
第 1 代 VM:不支持
加速网络:支持
临时 OS 磁盘:支持
嵌套虚拟化:不支持

系列大小

每个大小的 vCPU(数量)和内存

大小名称 vCPU(数量) 内存 (GB)
Standard_ND96isr_H200_v5 96 1850

VM 基础知识资源

其他大小信息

所有可用大小的列表:大小

定价计算器:定价计算器

有关磁盘类型的信息:磁盘类型

后续步骤

通过更改虚拟机的大小来利用工作负载可用的最新性能和功能。

凭借 Azure Cobalt VM 利用 Microsoft 内部设计的 ARM 处理器。

了解如何监视 Azure 虚拟机