Compartir a través de


Serie de tamaños ND-MI300X-v5

La máquina virtual (VM) de la serie ND MI300X v5 es una nueva adición estrella de la familia de GPU de Azure. Ha sido diseñada para el entrenamiento de aprendizaje profundo de alto nivel y cargas de trabajo de HPC y de IA generativa de escalabilidad horizontal y vertical estrechamente acopladas.

La máquina virtual de la serie ND MI300X v5 comienza con ocho GPU AMD Instinct MI300 y dos procesadores escalables Intel Xeon de cuarta generación para un total de 96 núcleos físicos. Cada GPU dentro de la máquina virtual se conecta con el resto a través de los vínculos AMD Infinity Fabric de 4.ª generación con ancho de banda de 128 GB/s por GPU y ancho de banda agregado de 896 GB/s.

Las implementaciones basadas en ND MI300X v5 se pueden escalar verticalmente hasta miles de GPU con un ancho de banda de interconexión de 3,2 Tb/s por máquina virtual. Cada GPU incluida en la máquina virtual se proporciona con su propia conexión InfiniBand de NVIDIA Quantum-2 CX7 de 400 Gb/s dedicada e independiente de la topología. Estas conexiones se configuran automáticamente entre máquinas virtuales que ocupan el mismo conjunto de escalado de máquinas virtuales y admiten RDMA de GPUDirect.

Estas instancias proporcionan un rendimiento excelente para muchas herramientas de IA, ML y análisis que admiten la aceleración GPU de serie, como TensorFlow, Pytorch y otras plataformas. Además, la interconexión InfiniBand de escalabilidad horizontal es compatible con un gran conjunto de herramientas de inteligencia artificial y HPC existentes creadas en ROCm Communication Collectives Library (RCCL) de AMD para una agrupación en clústeres de GPU sin problemas.

Especificaciones del host

Parte Cantidad
Unidades de recuento
Especificaciones
Id. de SKU, unidades de rendimiento, etc.
Procesador 96 CPU virtuales Intel Xeon (Sapphire Rapids) [x86-64]
Memoria 1850 GiB
Almacenamiento local 1 disco temporal
8 discos NVMe
Disco temporal de 1000 GiB
Discos NVMe de 28000 GiB
Almacenamiento remoto 32 discos 80 000 IOPS
1200 MBps
Red 8 NICs
Aceleradores 8 GPU AMD Instinct MI300X GPU (192GB)

Compatibilidad de características

Premium Storage: admitido
Almacenamiento en caché de Premium Storage: admitido
Migración en directo: no admitido
Actualizaciones con conservación de memoria: no admitido
Máquinas virtuales de generación 2: compatibles
Máquinas virtuales de generación 1: no compatibles
Redes aceleradas: compatible
Disco de SO efímero: compatible
Virtualización anidada: no compatible

Tamaños en serie

vCPU (Qty.) y memoria para cada tamaño

Nombre del tamaño vCPUs (Qty.) Memoria (GB)
Standard_ND96isr_MI300X_v5 96 1850

Recursos básicos de máquina virtual

Otra información de tamaño

Lista de todos los tamaños disponibles: Tamaños

Calculadora de precios: Calculadora de precios

Información sobre los tipos de disco: Tipos de disco

Pasos siguientes

Obtenga más información sobre cómo las unidades de proceso de Azure (ACU) pueden ayudarlo a comparar el rendimiento en los distintos SKU de Azure.

Vea Hosts dedicados de Azure para servidores físicos que puedan hospedar una o varias máquinas virtuales asignadas a una suscripción de Azure.

Aprenda a Supervisión de máquinas virtuales de Azure.