Serie NC A100 v4

  • Articolo

Attenzione

Questo articolo fa riferimento a CentOS, una distribuzione Linux prossima allo stato EOL (End of Life, fine del ciclo di vita). Prendere in considerazione l'uso e il piano di conseguenza. Per altre informazioni, vedere le linee guida per la fine della vita di CentOS.

Si applica a: ✔️ macchine virtuali Linux ✔️ macchine virtuali Windows ✔️ set di scalabilità flessibili ✔️ set di scalabilità uniformi

La macchina virtuale della serie NC A100 v4 è una nuova aggiunta alla famiglia gpu di Azure. È possibile usare questa serie per carichi di lavoro di training e inferenza batch di intelligenza artificiale app Azure in tempo reale.

La serie NC A100 v4 è basata su processori GPU NVIDIA A100 PCIe e processori AMD EPYC™ 7V13 (Milano). Le macchine virtuali includono fino a 4 GPU NVIDIA A100 PCIe con 80 GB di memoria, fino a 96 core di processore AMD EPYC Milano senza multithreading e 880 GiB di memoria di sistema. Queste macchine virtuali sono ideali per carichi di lavoro di intelligenza artificiale applicati reali, ad esempio:

  • Analisi e database con accelerazione GPU
  • Inferenza batch con pre-elaborazione e post-elaborazione pesanti
  • Training del modello di autonomia
  • Simulazione di serbatoi di petrolio e gas
  • Sviluppo di Machine Learning (ML)
  • Elaborazione video
  • Servizi Web di Intelligenza artificiale/Machine Learning

Funzionalità supportate

Per iniziare a usare le macchine virtuali NC A100 v4, vedere Configurazione e ottimizzazione del carico di lavoro HPC per i passaggi, tra cui la configurazione del driver e della rete.

A causa dell'aumento del footprint di I/O della memoria GPU, nc A100 v4 richiede l'uso di macchine virtuali di seconda generazione e immagini del marketplace. Sebbene le immagini HPC di Azure siano consigliate, sono supportate le immagini di Azure HPC Ubuntu 20.04 e Azure HPC CentOS 7.9, RHEL 8.8, RHEL 9.2, Windows Server 2019 e Windows Server 2022.

Dimensione vCPU Memoria (GiB) Discotemporaneo 1 (GiB) Dischi NVMe2 GPU3 Memoria GPU (GiB) Numero massimo di dischi dati Velocità effettiva massima del disco non memorizzato nella cache (IOPS/MBps) Numero massimo di schede di interfaccia di rete/larghezza di banda di rete (MBps)
Standard_NC24ads_A100_v4 24 220 64 960 GB 1 80 8 30000/1000 2/20,000
Standard_NC48ads_A100_v4 48 440 128 2x960 GB 2 160 16 60000/2000 4/40,000
Standard_NC96ads_A100_v4 96 880 256 4x960 GB 4 320 32 120000/4000 8/80,000

1 Le macchine virtuali serie NC A100 v4 hanno un disco risorse TEMPORANEO basato su SCSI standard per l'uso del file di paging/scambio del sistema operativo. In questo modo, le unità NVMe possono essere completamente dedicate all'utilizzo dell'applicazione. Questo disco è temporaneo e tutti i dati andranno persi al momento dell'arresto/deallocazione.

2 I dischi NVMe locali sono temporanei: i dati dei dischi andranno persi se si arresta/dealloca la macchina virtuale. Il disco NVMe locale viene distribuito come RAM e deve essere formattato manualmente nella macchina virtuale appena distribuita.

31 GPU = una scheda GPU PCIe A100 80 GB

Definizioni delle tabelle delle dimensioni

  • La capacità di archiviazione viene visualizzata in unità di GiB o 1.024^3 byte. Quando si confrontano dischi misurati in GB (1000^3 byte) con dischi misurati in GiB (1024^3), tenere presente che i valori di capacità specificati in GiB potrebbero apparire inferiori. Ad esempio, 1.023 GiB = 1.098,4 GB.

  • La velocità effettiva del disco viene misurata in operazioni di input/output al secondo (IOPS) e MBps, dove il valore di MBps corrisponde a 10^6 byte al secondo.

  • I dischi dati possono operare in modalità memorizzata nella cache o non memorizzata nella cache. Per il funzionamento dei dischi dati memorizzati nella cache, la modalità di cache host è impostata su ReadOnly o su ReadWrite. Per il funzionamento dei dischi dati non memorizzati nella cache, la modalità di cache host è impostata su None.

  • Per informazioni su come ottenere le migliori prestazioni di archiviazione per le macchine virtuali, vedere Prestazioni delle macchine virtuali e dei dischi.

  • La larghezza di banda della rete prevista è la larghezza di banda aggregata massima allocata per ogni tipo di macchina virtuale in tutte le schede di interfaccia di rete, per tutte le destinazioni. Per altre informazioni, vedere Larghezza di banda di rete delle macchine virtuali.

    I limiti superiori non sono garantiti. I limiti offrono indicazioni per la selezione del tipo di macchina virtuale appropriato per l'applicazione desiderata. Le prestazioni di rete effettive dipenderanno da svariati fattori, tra cui congestione della rete, carichi dell'applicazione e impostazioni di rete. Per informazioni sull'ottimizzazione della velocità effettiva della rete, vedere Ottimizzare la velocità effettiva di rete per macchine virtuali di Azure. Per realizzare le prestazioni di rete previste in Linux o Windows, potrebbe essere necessario selezionare una versione specifica o ottimizzare la macchina virtuale. Per altre informazioni, vedere Test di larghezza di banda/velocità effettiva (NTTTCP).

Altre dimensioni e informazioni

È possibile usare il calcolatore prezzi per stimare i costi delle macchine virtuali di Azure.

Per altre informazioni sui tipi di disco, vedere Quali tipi di disco sono disponibili in Azure?

Passaggio successivo