NCads H100 v5-Serie

Artikel
03/29/2024

Gilt für: ✔️ Linux-VMs ✔️ Windows-VMs ✔️ Flexible Skalierungsgruppen ✔️ Einheitliche Skalierungsgruppen

Die VMs der NCads H100 v5-Serie sind eine neue Ergänzung der Azure GPU-Produktfamilie. Sie können diese Serie für praxisorientierte Azure Applied AI-Trainings- und -Batchrückschluss-Workloads verwenden. Die VMs der NCads H100 v5-Serie werden von NVIDIA H100 NVL GPU- und AMD EPYC™ Genoa-Prozessoren der 4. Generation unterstützt. Die VMs verfügen über bis zu zwei NVIDIA H100 NVL-GPUs mit jeweils 94 GB Arbeitsspeicher, bis zu 96 AMD EPYC Genoa-Prozessorkernen ohne Multithreading und 640 GiB Systemspeicher. Diese virtuellen Computer eignen sich ideal für praxisorientierte Applied AI-Workloads, z. B.:

GPU-beschleunigte Analysen und Datenbanken
Batchrückschließen mit hoher Vor- und Nachverarbeitung
Autonomiemodelltraining
Simulation für Öl- und Gasvorkommen
Machine Learning-Entwicklung (ML)
Videoverarbeitung
KI/ML-Webdienste

Unterstützte Features

Informationen zu den ersten Schritten mit NCads H100 v5-VMs, einschließlich der Treiber- und Netzwerkkonfiguration, finden Sie unter Konfiguration und Optimierung von HPC-Workloads.

Aufgrund des größeren GPU-E/A-Arbeitsspeicherbedarfs werden für die Verwendung von NCads H100 v5 VMs der 2. Generation und Marketplace-Images benötigt. Befolgen Sie bei der Konfiguration die Anweisungen für Azure HPC-Images.

Storage Premium: Unterstützt
Storage Premium-Zwischenspeicherung: Unterstützt
Ultra Disks: Nicht unterstützt
Livemigration: Nicht unterstützt
Updates mit Speicherbeibehaltung: Nicht unterstützt
Unterstützung von VM-Generationen: Generation 2
Beschleunigter Netzwerkbetrieb: Unterstützt
Kurzlebige Betriebssystemdatenträger: Unterstützt
InfiniBand: Nicht unterstützt
NVIDIA NVLink Interconnect: unterstützt
Geschachtelte Virtualisierung: Nicht unterstützt

Size	vCPU	Arbeitsspeicher (GiB)	NVMe des temporären Datenträgers (GiB)	GPU	GPU-Arbeitsspeicher (GiB)	Max. Anzahl Datenträger	Maximaler Datenträgerdurchsatz ohne Cache: (IOPS/MB/s)	Maximale Anzahl der Netzwerkschnittstellen/Netzwerkbandbreite (MBit/s)
Standard_NC40ads_H100_v5	40	320	3576	1	94	8	100000/3000	2/40.000
Standard_NC80adis_H100_v5	80	640	7152	2	188	16	240000/7000	4/80.000

¹ Eine GPU entspricht einer H100-Karte.
² Lokale NVMe-Datenträger sind flüchtig. Daten gehen auf diesen Datenträgern verloren, wenn Sie Ihre VM beenden/deren Zuordnung aufheben. Lokale NVMe-Datenträger werden nicht durch Azure Storage-Verschlüsselung verschlüsselt, auch wenn Sie die Verschlüsselung auf dem Host aktivieren.

Definitionen der Größentabelle

Speicherkapazität wird in GiB-Einheiten oder 1.024^3 Bytes angezeigt. Beachten Sie beim Vergleich von in GB (1000^3 Bytes) gemessenen Datenträgern mit in GiB (1024^3) gemessenen Datenträgern, dass die in GiB angegebenen Kapazitätszahlen kleiner erscheinen können. Beispiel: 1.023 GiB = 1.098,4 GB.
Der Datenträgerdurchsatz wird in E/A-Vorgängen pro Sekunde (Input/Output Operations Per Second, IOPS) und MB/s gemessen, wobei MB/s = 10^6 Bytes/Sekunde beträgt.
Datenträger können mit oder ohne Cache betrieben werden. Beim Datenträgerbetrieb mit Cache ist der Hostcachemodus auf ReadOnly oder ReadWrite festgelegt. Beim Datenträgerbetrieb ohne Cache ist der Hostcachemodus auf None festgelegt.
Weitere Informationen, wie Sie die beste Speicherleistung für Ihre VMs erzielen können, finden Sie unter Leistung von virtuellen Computern und Datenträgern.
Expected network bandwidth (Erwartete Netzwerkbandbreite) ist die maximal aggregierte Bandbreite pro VM-Typ, die netzwerkadapterübergreifend für alle Ziele zugeordnet ist. Weitere Informationen finden Sie unter Netzwerkdurchsatz virtueller Computer.

Die Einhaltung von Obergrenzen wird nicht garantiert. Grenzwerte dienen als Richtlinien bei der Auswahl der richtigen VM-Art für die jeweilige Anwendung. Die tatsächliche Netzwerkleistung hängt von mehreren Faktoren ab. Hierzu zählen beispielsweise Netzwerküberlastung, Anwendungslasten und die Netzwerkeinstellungen. Informationen zum Optimieren des Netzwerkdurchsatzes finden Sie unter Optimieren des Netzwerkdurchsatzes für virtuelle Azure-Computer. Unter Umständen muss eine bestimmte Version ausgewählt oder der virtuelle Computer optimiert werden, um die erwartete Netzwerkbandbreite unter Linux oder Windows zu erzielen. Weitere Informationen finden Sie unter Testen der Bandbreite/des Durchsatzes (NTTTCP).

Weitere Größen und Informationen

Sie können den Preisrechner verwenden, um ihre Kosten für virtuelle Azure-Computer abzuschätzen.

Weitere Informationen zu Datenträgertypen finden Sie unter Welche Datenträgertypen stehen in Azure zur Verfügung?

Nächster Schritt

Vergleichen der Computeleistung zwischen Azure-SKUs und Azure-Compute-Einheiten (ACU)

Freigeben über