Condividi tramite

Serie NCads H100 v5

  • Articolo

Si applica a: ✔️ macchine virtuali Linux ✔️ macchine virtuali Windows ✔️ set di scalabilità flessibili ✔️ set di scalabilità uniformi

Le macchine virtuali serie NCads H100 v5 sono una nuova aggiunta alla famiglia GPU di Azure. È possibile usare questa serie per carichi di lavoro di inferenza batch e training di intelligenza artificiale applicata di Azure. Le macchine virtuali serie NCads H100 v5 sono basate su GPU NVIDIA H100 NVL e processori AMD EPYC™ di quarta generazione. Le macchine virtuali sono dotate di un massimo di 2 GPU NVIDIA H100 NVL con 94 GB di memoria, fino a 96 core del processore AMD EPYC Genova non multithreading e 640 GiB di memoria di sistema. Queste macchine virtuali sono ideali per carichi di lavoro di intelligenza artificiale applicati reali, ad esempio:

  • Analisi e database con accelerazione GPU
  • Inferenza batch con pre-elaborazione e post-elaborazione intense
  • Training del modello di autonomia
  • Simulazione di serbatoi di petrolio e gas
  • Sviluppo di Machine Learning (ML)
  • Elaborazione video
  • Servizi Web di Intelligenza artificiale/Machine Learning

Funzionalità supportate

Per iniziare a usare macchine virtuali NCads H100 v5, vedere Configurazione e ottimizzazione del carico di lavoro HPC per i passaggi, tra cui driver e configurazione di rete.

A causa dell'aumento del footprint di I/O della memoria GPU, NCads H100 v5 richiede l'uso di macchine virtuali di seconda generazione e immagini del marketplace. Seguire le istruzioni immagini HPC di Azure per la configurazione.

Dimensione vCPU Memoria (GiB) NVMe del disco temporaneo (GiB) GPU Memoria GPU (GiB) Numero massimo di dischi dati Velocità effettiva massima del disco non memorizzato nella cache (IOPS/MBps) Numero massimo di schede di interfaccia di rete/larghezza di banda di rete (MBps)
Standard_NC40ads_H100_v5 40 320 3576 1 94 8 100000/3000 2/40,000
Standard_NC80adis_H100_v5 80 640 7152 2 188 16 240000/7000 4/80,000

1 1 GPU = una scheda H100
2 I dischi NVMe locali sono temporanei. I dati vengono persi in questi dischi se si arresta/dealloca la macchina virtuale. I dischi NVMe locali non vengono crittografati da crittografia di Archiviazione di Azure, anche se si abilita la crittografia nell'host.

Definizioni delle tabelle delle dimensioni

  • La capacità di archiviazione viene visualizzata in unità di GiB o 1.024^3 byte. Quando si confrontano dischi misurati in GB (1000^3 byte) con dischi misurati in GiB (1024^3), tenere presente che i valori di capacità specificati in GiB potrebbero apparire inferiori. Ad esempio, 1.023 GiB = 1.098,4 GB.

  • La velocità effettiva del disco viene misurata in operazioni di input/output al secondo (IOPS) e MBps, dove il valore di MBps corrisponde a 10^6 byte al secondo.

  • I dischi dati possono operare in modalità memorizzata nella cache o non memorizzata nella cache. Per il funzionamento dei dischi dati memorizzati nella cache, la modalità di cache host è impostata su ReadOnly o su ReadWrite. Per il funzionamento dei dischi dati non memorizzati nella cache, la modalità di cache host è impostata su None.

  • Per informazioni su come ottenere le migliori prestazioni di archiviazione per le macchine virtuali, vedere Prestazioni delle macchine virtuali e dei dischi.

  • La larghezza di banda della rete prevista è la larghezza di banda aggregata massima allocata per ogni tipo di macchina virtuale in tutte le schede di interfaccia di rete, per tutte le destinazioni. Per altre informazioni, vedere Larghezza di banda di rete delle macchine virtuali.

    I limiti superiori non sono garantiti. I limiti offrono indicazioni per la selezione del tipo di macchina virtuale appropriato per l'applicazione desiderata. Le prestazioni di rete effettive dipenderanno da svariati fattori, tra cui congestione della rete, carichi dell'applicazione e impostazioni di rete. Per informazioni sull'ottimizzazione della velocità effettiva della rete, vedere Ottimizzare la velocità effettiva di rete per macchine virtuali di Azure. Per realizzare le prestazioni di rete previste in Linux o Windows, potrebbe essere necessario selezionare una versione specifica o ottimizzare la macchina virtuale. Per altre informazioni, vedere Test di larghezza di banda/velocità effettiva (NTTTCP).

Altre dimensioni e informazioni

È possibile usare il calcolatore prezzi per stimare i costi delle macchine virtuali di Azure.

Per altre informazioni sui tipi di disco, vedere Quali tipi di disco sono disponibili in Azure?

Passaggio successivo