NC A100 v4-series

  • Artikel

Achtung

Dieser Artikel bezieht sich auf CentOS, eine Linux-Distribution, die sich dem End-of-Life-Status (EOL) nähert. Sie sollten Ihre Nutzung entsprechend planen. Weitere Informationen finden Sie im CentOS End-of-Life-Leitfaden.

Gilt für: ✔️ Linux-VMs ✔️ Windows-VMs ✔️ Flexible Skalierungsgruppen ✔️ Einheitliche Skalierungsgruppen

Der virtuelle Computer der NC A100 v4-Serie ist eine neue Ergänzung der Azure-GPU-Familie. Sie können diese Serie für praxisorientierte Azure Applied AI-Trainings- und -Batchrückschluss-Workloads verwenden.

Die NC A100 v4-Serie wird von NVIDIA A100 PCIe-GPU- und AMD EPYC™ 7V13 (Milan)-Prozessoren der dritten Generation unterstützt. Die VMs verfügen über bis zu 4 NVIDIA A100 PCIe-GPUs mit jeweils 80 GB Arbeitsspeicher, bis zu 96 AMD EPYC Milan-Prozessorkernen ohne Multithreading und 880 GiB Systemspeicher. Diese virtuellen Computer eignen sich ideal für praxisorientierte Applied AI-Workloads, z. B.:

  • GPU-beschleunigte Analysen und Datenbanken
  • Batchrückschließen mit hoher Vor- und Nachverarbeitung
  • Autonomiemodelltraining
  • Simulation für Öl- und Gasvorkommen
  • Machine Learning-Entwicklung (ML)
  • Videoverarbeitung
  • KI/ML-Webdienste

Unterstützte Features

Informationen zu den ersten Schritten mit NC A100 v4-VMs, einschließlich der Treiber- und Netzwerkkonfiguration, finden Sie unter Konfiguration und Optimierung von HPC-Workloads.

Aufgrund des größeren GPU-Arbeitsspeicherbedarfs werden für die NC A100_v4 VMs der 2. Generation und Marketplace-Images benötigt. Azure HPC-Images werden empfohlen, aber auch Images vom Typ Azure HPC Ubuntu 20.04 und Azure HPC CentOS 7.9, RHEL 8.8, RHEL 9.2, Windows Server 2019 und Windows Server 2022 werden unterstützt.

Size vCPU Arbeitsspeicher (GiB) Temporäre Datenträger1 (GiB) NVMe-Datenträger2 GPU3 GPU-Arbeitsspeicher (GiB) Max. Anzahl Datenträger Maximaler Datenträgerdurchsatz ohne Cache: (IOPS/MB/s) Maximale Anzahl der Netzwerkschnittstellen/Netzwerkbandbreite (MBit/s)
Standard_NC24ads_A100_v4 24 220 64 960 GB 1 80 8 30000/1000 2/20.000
Standard_NC48ads_A100_v4 48 440 128 2x960 GB 2 160 16 60000/2000 4/40.000
Standard_NC96ads_A100_v4 96 880 256 4x960 GB 4 320 32 120.000/4.000 8/80.000

1 NC A100 v4-Serien-VMs verfügen über einen standardmäßigen SCSI-basierten Temporären Ressourcendatenträger für die Verwendung von Betriebssystem-Auslagerungs-/Swapdateien. Dadurch wird sichergestellt, dass die NVMe-Laufwerke vollständig für die Anwendungsnutzung reserviert werden können. Dieser Datenträger ist kurzlebig, und beim Beenden oder Aufheben der Zuordnung gehen alle Daten verloren.

2 Lokale NVMe-Datenträger sind kurzlebig. Die Daten auf diesen Datenträgern gehen verloren, wenn Sie den virtuellen Computer beenden oder seine Zuordnung aufheben. Der lokale NVMe-Datenträger wird als RAM bereitgestellt und muss auf neu bereitgestellten VMs manuell formatiert werden.

31 GPU = eine A100 80 GB PCIe GPU-Karte

Definitionen der Größentabelle

  • Speicherkapazität wird in GiB-Einheiten oder 1.024^3 Bytes angezeigt. Beachten Sie beim Vergleich von in GB (1000^3 Bytes) gemessenen Datenträgern mit in GiB (1024^3) gemessenen Datenträgern, dass die in GiB angegebenen Kapazitätszahlen kleiner erscheinen können. Beispiel: 1.023 GiB = 1.098,4 GB.

  • Der Datenträgerdurchsatz wird in E/A-Vorgängen pro Sekunde (Input/Output Operations Per Second, IOPS) und MB/s gemessen, wobei MB/s = 10^6 Bytes/Sekunde beträgt.

  • Datenträger können mit oder ohne Cache betrieben werden. Beim Datenträgerbetrieb mit Cache ist der Hostcachemodus auf ReadOnly oder ReadWrite festgelegt. Beim Datenträgerbetrieb ohne Cache ist der Hostcachemodus auf None festgelegt.

  • Weitere Informationen, wie Sie die beste Speicherleistung für Ihre VMs erzielen können, finden Sie unter Leistung von virtuellen Computern und Datenträgern.

  • Expected network bandwidth (Erwartete Netzwerkbandbreite) ist die maximal aggregierte Bandbreite pro VM-Typ, die netzwerkadapterübergreifend für alle Ziele zugeordnet ist. Weitere Informationen finden Sie unter Netzwerkdurchsatz virtueller Computer.

    Die Einhaltung von Obergrenzen wird nicht garantiert. Grenzwerte dienen als Richtlinien bei der Auswahl der richtigen VM-Art für die jeweilige Anwendung. Die tatsächliche Netzwerkleistung hängt von mehreren Faktoren ab. Hierzu zählen beispielsweise Netzwerküberlastung, Anwendungslasten und die Netzwerkeinstellungen. Informationen zum Optimieren des Netzwerkdurchsatzes finden Sie unter Optimieren des Netzwerkdurchsatzes für virtuelle Azure-Computer. Unter Umständen muss eine bestimmte Version ausgewählt oder der virtuelle Computer optimiert werden, um die erwartete Netzwerkbandbreite unter Linux oder Windows zu erzielen. Weitere Informationen finden Sie unter Testen der Bandbreite/des Durchsatzes (NTTTCP).

Weitere Größen und Informationen

Sie können den Preisrechner verwenden, um ihre Kosten für virtuelle Azure-Computer abzuschätzen.

Weitere Informationen zu Datenträgertypen finden Sie unter Welche Datenträgertypen stehen in Azure zur Verfügung?

Nächster Schritt