ND A100 v4 serisi

  • Makale

Şunlar için geçerlidir: ✔️ Linux VM'leri ✔️ Esnek ölçek kümeleri ✔️ Tekdüzen ölçek kümeleri

ND A100 v4 serisi sanal makine (VM), Azure GPU ailesine eklenen yeni bir amiral gemisidir. Üst düzey Derin Öğrenme eğitimi ve sıkı bir şekilde bağlanmış ölçeği artırma ve ölçeği genişletme HPC iş yükleri için tasarlanmıştır.

ND A100 v4 serisi tek bir VM ve sekiz NVIDIA Ampere A100 40 GB Tensor Çekirdek GPU ile başlar. ND A100 v4 tabanlı dağıtımlar, VM başına 1,6 TB/sn bağlantı bant genişliği ile binlerce GPU'ya kadar ölçeklendirilebilir. VM içindeki her GPU kendi ayrılmış, topolojiden bağımsız 200 GB/sn NVIDIA Mellanox HDR InfiniBand bağlantısı ile sağlanır. Bu bağlantılar aynı VM ölçek kümesini kaplayan VM'ler arasında otomatik olarak yapılandırılır ve GPUDirect RDMA'yı destekler.

Her GPU, VM içinde iletişim için NVLINK 3.0 bağlantısına sahiptir ve örnek 96 fiziksel 2. nesil AMD Epyc™ 7V12 (Roma) CPU çekirdeği tarafından desteklenir.

Bu örnekler TensorFlow, Pytorch, Caffe, RAPIDS ve diğer çerçeveler gibi GPU hızlandırmayı destekleyen birçok yapay zeka, ML ve analiz aracı için mükemmel performans sağlar. Buna ek olarak, ölçek genişletme InfiniBand bağlantısı, GPU'ların sorunsuz kümelenmesi için NVIDIA'nın NCCL2 iletişim kitaplıkları üzerinde oluşturulmuş büyük bir dizi mevcut yapay zeka ve HPC aracı tarafından desteklenir.

Önemli

ND A100 v4 VM'lerini kullanmaya başlamak için sürücü ve ağ yapılandırması gibi adımlar için HPC İş Yükü Yapılandırması ve İyileştirme bölümüne bakın. ARTAN GPU bellek G/Ç ayak izi nedeniyle ND A100 v4, 2. Nesil VM'lerin ve market görüntülerinin kullanılmasını gerektirir. Azure HPC görüntüleri kesinlikle önerilir. Azure HPC Ubuntu 18.04, 20.04 ve Azure HPC CentOS 7.9 görüntüleri desteklenir.


Premium Depolama: Desteklenir
Premium Depolama önbelleğe alma: Desteklenir
Ultra Diskler: Desteklenir (Kullanılabilirlik, kullanım ve performans hakkında daha fazla bilgi edinin )
Dinamik Geçiş: Desteklenmiyor
Bellek Koruma Güncelleştirmeler: Desteklenmiyor
VM Oluşturma Desteği: 2. Nesil
Hızlandırılmış Ağ: Desteklenir
Kısa Ömürlü İşletim Sistemi Diskleri: Desteklenir
InfiniBand: Desteklenir, GPUDirect RDMA, 8 x 200 Gigabit HDR
NVIDIA NVLink Bağlantısı: Desteklenir
İç İçe Sanallaştırma: Desteklenmiyor

ND A100 v4 serisi aşağıdaki çekirdek sürümlerini destekler:
CentOS 7.9 HPC: 3.10.0-1160.24.1.el7.x86_64
Ubuntu 18.04: 5.4.0-1043-azure
Ubuntu 20.04: 5.4.0-1046-azure

Boyut Sanal işlemci Bellek: GiB Geçici Depolama (SSD): GiB GPU GPU Belleği: GiB Maksimum veri diskleri Maksimum önbelleğe alınmamış disk aktarım hızı: IOPS-MB/sn En yüksek ağ bant genişliği En fazla NIC
Standard_ND96asr_v4 96 900 6000 8 A100 40 GB GPU (NVLink 3.0) 40 32 80,000 / 800 24.000 Mb/sn 8

Boyut tablosu tanımları

  • Depolama kapasitesi GiB veya 1024^3 bayt cinsinden gösterilmiştir. GB (1000^3 bayt) olarak ölçülen diskleri GiB (1024^3) ile ölçülen disklerle karşılaştırdığınızda, GiB'de verilen kapasite sayılarının daha küçük görünebileceğini unutmayın. Örneğin, 1023 GiB = 1098,4 GB.

  • Disk aktarım hızı, saniye başına giriş/çıkış işlemi sayısı (IOPS) ve MB/sn (MB/sn = 10^6 bayt/sn) üzerinden ölçülür.

  • Veri diskleri önbelleğe alınmış veya alınmamış modlarda çalışabilir. Önbelleğe alınmış veri diski işlemi için ana bilgisayar önbelleği SaltOkunur veya OkuYaz moduna ayarlanır. Önbelleğe alınmamış veri diski işlemi için ana bilgisayar önbelleği Yok moduna ayarlanır.

  • VM'leriniz için en iyi depolama performansını elde etmeyi öğrenmek için bkz. Sanal makine ve disk performansı.

  • Beklenen ağ bant genişliği , tüm hedefler için tüm NIC'ler genelinde VM türü başına ayrılan toplam bant genişliği üst sınırıdır. Daha fazla bilgi için bkz. Sanal makine ağ bant genişliği.

    Üst sınırlar garanti değildir. Sınırlar, hedeflenen uygulama için doğru VM türünü seçmek için rehberlik sunar. Gerçek ağ performansı, ağ tıkanıklığı, uygulama yüklemeleri ve ağ ayarları gibi çeşitli faktörlere bağlıdır. Ağ aktarım hızını iyileştirme hakkında bilgi için bkz. Azure sanal makineleri için ağ aktarım hızını iyileştirme. Linux veya Windows'ta beklenen ağ performansını elde etmek için belirli bir sürümü seçmeniz veya VM'nizi iyileştirmeniz gerekebilir. Daha fazla bilgi için bkz . Bant Genişliği/Aktarım Hızı testi (NTTTCP).

Diğer boyutlar ve bilgiler

Fiyatlandırma Hesaplayıcısı: Fiyatlandırma Hesaplayıcısı

Disk türleri hakkında daha fazla bilgi için bkz . Azure'da hangi disk türleri kullanılabilir?

Sonraki adımlar

Azure işlem birimlerinin (ACU) Azure SKU'larında işlem performansını karşılaştırmanıza nasıl yardımcı olabileceği hakkında daha fazla bilgi edinin.