NDm_A100_v4 大小系列

NDm A100 v4 系列虚拟机 (VM) 是 Azure GPU 系列的新增旗舰产品。 这些大小专为高端深度学习训练和紧密耦合的纵向扩展和横向扩展 HPC 工作负荷而设计。

NDm A100 v4 系列的起步配置是一个 VM 和八个 NVIDIA Ampere A100 80GB Tensor Core GPU。 基于 NDm A100 v4 的部署可以纵向扩展到成千上万个 GPU，每个 VM 的互连带宽为 1.6 TB/秒。 VM 内的每个 GPU 都具备其自己专用的、与拓扑无关的 200 GB/秒 NVIDIA Mellanox HDR InfiniBand 连接。 这些连接在占用相同 Azure 虚拟机规模集的 VM 之间自动配置，并且支持 GPU Direct RDMA。

每个 GPU 都具有 NVLINK 3.0 连接功能，可在 VM 内进行通信，背后是 96 个物理第二代 AMD Epyc™ 7V12 (Rome) CPU 核心。

这些实例为众多 AI、ML、支持 GPU 加速的现成分析工具（如 TensorFlow、Pytorch、Caffe、RAPIDS）以及其他框架提供卓越的性能。 此外，横向扩展 InfiniBand 互连支持一大组基于 NVIDIA 的 NCCL2 通信库构建的现有 AI 和 HPC 工具，以便实现无缝的 GPU 群集化。

主机规格

组成部分	数量 计数单位	规格 SKU ID、性能单位等。
处理器	96 个 vCPU	AMD EPYC 7V12 （罗马） [x86-64]
内存	1900 GiB
本地存储	1 个磁盘	6400 GiB
远程存储	32 个磁盘	80000 IOPS 800 MBps
网络	8 个 NIC	24000 Mbps
加速器	8 个 GPU	Nvidia A100 GPU （80GB）

功能支持

• 高级存储: 支持
• 高级存储缓存：支持
• 实时迁移：不支持
• 内存保留更新：不支持
• 第 2 代 VM：受支持
• 第 1 代 VM：不支持
• 加速网络：支持
• 临时 OS 磁盘：支持
• 本地临时存储：支持
• 嵌套虚拟化：不支持

系列大小

基础知识

每种大小的 vCPU(数量)和内存量

大小名称	vCPU（数量）	内存 (GB)
Standard_ND96amsr_A100_v4	96	1900

VM 基础知识资源

• 检查 vCPU 配额

本地存储

每种大小的本地（临时）存储信息

大小名称	最大临时存储磁盘（数量）	临时磁盘大小 (GiB)
Standard_ND96amsr_A100_v4	1	6400

存储资源

• Azure 托管磁盘简介
• Azure 托管磁盘类型
• 共享 Azure 托管磁盘

表定义

• ¹临时磁盘速度通常因 RR（随机读取）和 RW（随机写入）操作而异。 RR 操作通常比 RW 操作快。 RW 速度通常比系列上的 RR 速度慢，其中仅列出了 RR 速度值。
• 存储容量的单位为 GiB 或 1024^3 字节。 比较以 GB（1000^3 字节）为单位的磁盘和以 GiB（1024^3 字节）为单位的磁盘时，请记住以 GiB 为单位的容量数显得更小。 例如，1023 GiB = 1098.4 GB。
• 磁盘吞吐量的单位为每秒输入/输出操作数 (IOPS) 和 MBps，其中 MBps = 10^6 字节/秒。
• 如要了解如何为虚拟机获得最佳存储性能，请参阅虚拟机和磁盘性能。

远程存储

每种大小的远程（未缓存）存储信息

大小名称	最大远程存储磁盘数量	未缓存磁盘 IOPS	未缓存磁盘速度 (MBps)
Standard_ND96amsr_A100_v4	32	80000	800

存储资源

• Azure 托管磁盘简介
• Azure 托管磁盘类型
• 共享 Azure 托管磁盘

表定义

• ¹某些大小支持使用突发来暂时提高磁盘性能。 突发速度一次最多可以保持 30 分钟。
• ²特殊存储是指超级磁盘或高级 SSD v2 存储。
• 存储容量的单位为 GiB 或 1024^3 字节。 比较以 GB（1000^3 字节）为单位的磁盘和以 GiB（1024^3 字节）为单位的磁盘时，请记住以 GiB 为单位的容量数显得更小。 例如，1023 GiB = 1098.4 GB。
• 磁盘吞吐量的单位为每秒输入/输出操作数 (IOPS) 和 MBps，其中 MBps = 10^6 字节/秒。
• 数据磁盘可以在缓存或非缓存模式下运行。 对于缓存的数据磁盘操作，主机缓存模式设置为 ReadOnly 或 ReadWrite。 对于未缓存的数据磁盘操作，主机缓存模式设置为“无”。
• 如要了解如何为虚拟机获得最佳存储性能，请参阅虚拟机和磁盘性能。

网络

每种大小的网络接口信息

大小名称	最大 NIC 数量	最大带宽 (Mbps)
Standard_ND96amsr_A100_v4	8	24000

网络资源

• Azure 中的虚拟网络和虚拟机
• 虚拟机网络带宽

表定义

• 预期的网络带宽是指跨所有 NIC 为每个 VM 类型分配的最大聚合带宽，适用于所有目标。 有关详细信息，请参阅虚拟机网络带宽
• 上限不能保证。 这些限制能够为目标应用程序选择适当的虚拟机类型提供指导。 实际的网络性能取决于多种因素，比如网络拥塞、应用程序负载和网络设置。 有关如何优化网络吞吐量的信息，请参阅为 Azure 虚拟机优化网络吞吐量。
• 如要在 Linux 或 Windows 中达到预期的网络性能，可能需要选择特定的版本或优化虚拟机。 有关详细信息，请参阅带宽/吞吐量测试 (NTTTCP)。

加速器

每种大小的加速器（GPU、FPGA 等）信息

大小名称	加速器（数量）	加速器内存 (GB)
Standard_ND96amsr_A100_v4	8	80

其他大小信息

所有可用大小的列表：大小

定价计算器：定价计算器

有关磁盘类型的信息：磁盘类型

Next steps

通过更改虚拟机的大小来利用工作负载可用的最新性能和功能。

使用 Microsoft 内部设计的 ARM 处理器和 Azure Cobalt VM。

了解如何监视 Azure 虚拟机。