Serie ND MI300X v5

Se aplica a: ✔️ Máquinas virtuales Linux ✔️ Conjuntos de escalado flexibles ✔️ Conjuntos de escalado uniformes

La máquina virtual (VM) de la serie ND MI300X v5 es una nueva adición estrella de la familia de GPU de Azure. Ha sido diseñada para el entrenamiento de aprendizaje profundo de alto nivel y cargas de trabajo de HPC y de IA generativa de escalabilidad horizontal y vertical estrechamente acopladas.

La máquina virtual de la serie ND MI300X v5 comienza con ocho GPU AMD Instinct MI300 y dos procesadores escalables Intel Xeon de cuarta generación para un total de 96 núcleos físicos. Cada GPU dentro de la máquina virtual se conecta con el resto a través de los vínculos AMD Infinity Fabric de 4.ª generación con ancho de banda de 128 GB/s por GPU y ancho de banda agregado de 896 GB/s.

Las implementaciones basadas en ND MI300X v5 se pueden escalar verticalmente hasta miles de GPU con un ancho de banda de interconexión de 3,2 Tb/s por máquina virtual. Cada GPU incluida en la máquina virtual se proporciona con su propia conexión InfiniBand de NVIDIA Quantum-2 CX7 de 400 Gb/s dedicada e independiente de la topología. Estas conexiones se configuran automáticamente entre máquinas virtuales que ocupan el mismo conjunto de escalado de máquinas virtuales y admiten RDMA de GPUDirect.

Estas instancias proporcionan un rendimiento excelente para muchas herramientas de IA, ML y análisis que admiten la aceleración GPU de serie, como TensorFlow, Pytorch y otras plataformas. Además, la interconexión InfiniBand de escalabilidad horizontal es compatible con un gran conjunto de herramientas de inteligencia artificial y HPC existentes creadas en ROCm Communication Collectives Library (RCCL) de AMD para una agrupación en clústeres de GPU sin problemas.

Especificaciones del host

Parte	Cantidad Recuento Unidades	Especificaciones Id. de SKU, unidades de rendimiento, etc.
Procesador	96 núcleos virtuales	Intel® Xeon® Scalable (Sapphire Rapids)
Memoria	1850 GiB
Almacenamiento local	1 disco	1000 GiB
Discos remotos	32 discos	40800 IOPS 612 MBps
Red	8 NICs	80000 Mbps
Aceleradores	8 GPU	AMD MI300X 192 GiB 1535 GiB por máquina virtual

Compatibilidad de características

Premium Storage: Compatible
Almacenamiento en caché de Premium Storage: Compatible
Ultra Disk: Compatible Más información sobre la disponibilidad, el uso y el rendimiento
Migración en vivo: No compatible
Actualizaciones con conservación de memoria: No compatible
Compatibilidad con generación de VM: Generación 2
Redes aceleradas: compatible
Discos de sistema operativo efímero: compatible
InfiniBand: Compatible, RDMA de GPUDirect, NDR Gigabit de 8x400
Virtualización anidada: no compatible

Importante

Para empezar a trabajar con las máquinas virtuales ND MI300X v5, vea Configuración y optimización de cargas de trabajo de HPC para conocer los pasos que incluyen la configuración del controlador y la red. Debido a la mayor superficie de E/S de memoria en la GPU, la serie ND MI300X v5 necesita el uso de máquinas virtuales de generación 2 y de imágenes de marketplace.

Tamaños en serie

Tamaño	vCPU	Memoria: GiB	GiB de almacenamiento temporal (SSD)	GPU	Memoria de GPU (GiB)	Discos de datos máx.	Rendimiento máximo del disco sin almacenamiento en la caché: IOPS/Mbps	Ancho de banda de red máx.	Nº máx. NIC
Standard_ND96isr_MI300X_v5	96	1850	1000	8 MI300X	192	32	40800/612	80 000 Mbps	8

Definiciones de tabla de tamaño

• La capacidad de almacenamiento se muestra en unidades de GiB o 1024^3 bytes. Cuando compare discos que se miden en GB (1000^3 bytes) con discos que se miden en GiB (1024^3), recuerde que los números que representan la capacidad en GiB pueden parecer más pequeños. Por ejemplo, 1023 GiB = 1098,4 GB.

• Se midió el rendimiento de disco en operaciones de entrada/salida por segundo (E/S por segundo) y MBps, donde Mbps = 10^6 bytes/s.

• Los discos de datos pueden funcionar en modo en caché o en modo no en caché. En el caso de la operación de disco de datos en caché, el modo de caché del host está establecido en ReadOnly o ReadWrite. En el caso de la operación de disco de datos no en caché, el modo de caché del host está definido en None.

• Para obtener información sobre cómo obtener el mejor rendimiento de almacenamiento para las VM, consulte Rendimiento de la máquina virtual y del disco.

• El ancho de banda de red esperado es el ancho de banda agregado máximo asignado por tipo de máquina virtual en todas las NIC y para todos los destinos. Para más información, consulte Ancho de banda de red de las máquinas virtuales.

  No se garantizan los límites superiores. Los límites ofrecen una guía para seleccionar el tipo de máquina virtual adecuado para la aplicación prevista. El rendimiento de red real dependerá de diversos factores (como, por ejemplo, la congestión de la red, las cargas de la aplicación y la configuración de red). Para más información sobre cómo optimizar el rendimiento de red, consulte Optimización del rendimiento de red en las máquinas virtuales de Azure. Para lograr el rendimiento de red esperado en Linux o Windows, puede que deba seleccionar una versión específica u optimizar la máquina virtual. Para obtener más información, vea Pruebas de ancho de banda y rendimiento (NTTTCP).

Otra información de tamaño

Lista de todos los tamaños disponibles: Tamaños

Calculadora de precios: Calculadora de precios

Información sobre los tipos de disco: Tipos de disco

Pasos siguientes

Obtenga más información sobre cómo las unidades de proceso de Azure (ACU) pueden ayudarlo a comparar el rendimiento en los distintos SKU de Azure.

Vea Hosts dedicados de Azure para servidores físicos que puedan hospedar una o varias máquinas virtuales asignadas a una suscripción de Azure.

Aprenda a Supervisión de máquinas virtuales de Azure.