ND A100 v4 serisi

  • Makale

Şunlar için geçerlidir: ✔️ Linux VM'leri ✔️ Esnek ölçek kümeleri ✔️ Tekdüzen ölçek kümeleri.

ND A100 v4 serisi sanal makine (VM), Azure GPU ailesine eklenen yeni bir amiral gemisidir. Üst düzey Derin Öğrenme eğitimi ve sıkı bir şekilde bağlı ölçeği artırma ve ölçeği genişletme HPC iş yükleri için tasarlanmıştır.

ND A100 v4 serisi tek bir VM ve sekiz NVIDIA Ampere A100 40 GB Tensor Core GPU ile başlar. ND A100 v4 tabanlı dağıtımlar, VM başına 1,6 TB/sn bağlantı bant genişliğiyle binlerce GPU'ya kadar ölçeklendirilebilir. VM içindeki her GPU kendi ayrılmış, topolojiden bağımsız 200 GB/sn NVIDIA Mellanox HDR InfiniBand bağlantısı ile sağlanır. Bu bağlantılar, aynı VM ölçek kümesini kaplayan VM'ler arasında otomatik olarak yapılandırılır ve GPUDirect RDMA'yı destekler.

Her GPU, VM içindeki iletişim için NVLINK 3.0 bağlantısına sahiptir ve örnek 96 fiziksel 2. nesil AMD Epyc™ 7V12 (Roma) CPU çekirdeği tarafından desteklenir.

Bu örnekler TensorFlow, Pytorch, Caffe, RAPIDS ve diğer çerçeveler gibi GPU hızlandırmayı destekleyen 'kullanıma hazır' GPU hızlandırmasını destekleyen birçok yapay zeka, ML ve analiz aracı için mükemmel performans sağlar. Buna ek olarak, ölçek genişletme InfiniBand bağlantısı, GPU'ların sorunsuz kümelenmesi için NVIDIA'nın NCCL2 iletişim kitaplıkları üzerinde oluşturulan mevcut yapay zeka ve HPC araçlarının büyük bir kümesi tarafından desteklenir.

Önemli

ND A100 v4 VM'lerini kullanmaya başlamak için sürücü ve ağ yapılandırması gibi adımlar için HPC İş Yükü Yapılandırması ve İyileştirme bölümüne bakın. ARTAN GPU bellek G/Ç ayak izi nedeniyle ND A100 v4, 2. Nesil VM'lerin ve market görüntülerinin kullanılmasını gerektirir.

Azure desteği s Ubuntu 20.04/22.04, RHEL 7.9/8.7/9.3, AlmaLinux 8.8/9.2 ve ND A100 v4 VM'leri için SLES 15. Azure Market'te, çeşitli HPC araçları ve kitaplıkları yüklü HPC/AI iş yükleri için iyileştirilmiş ve önceden yapılandırılmış Linux VM görüntüleri sunulmaktadır ve bu nedenle bunlar kesinlikle önerilir. Şu anda Ubuntu-HPC 20.04/22.04 ve AlmaLinux-HPC 8.6/8.7 VM görüntüleri desteklenmektedir.


Premium Depolama: Desteklenir
Premium Depolama önbelleğe alma: Desteklenir
Ultra Diskler: Desteklenir (Kullanılabilirlik, kullanım ve performans hakkında daha fazla bilgi edinin)
Dinamik Geçiş: Desteklenmiyor
Bellek Koruma Güncelleştirmeler: Desteklenmiyor
VM Oluşturma Desteği: 2. Nesil
Hızlandırılmış Ağ: Desteklenir
Kısa Ömürlü İşletim Sistemi Diskleri: Desteklenir
InfiniBand: Desteklenir, GPUDirect RDMA, 8 x 200 Gigabit HDR
NVIDIA NVLink Ara Bağlantısı: Desteklenir
İç İçe Sanallaştırma: Desteklenmiyor

Size Sanal işlemci Bellek: GiB Geçici Depolama (SSD): GiB GPU GPU Belleği: GiB Maksimum veri diskleri Maksimum önbelleğe alınmamış disk aktarım hızı: IOPS-MB/sn En fazla ağ bant genişliği En fazla NIC
Standard_ND96asr_A100_v4 96 900 6000 8 A100 40 GB GPU (NVLink 3.0) 320 32 80,000 / 800 24.000 Mb/sn 8

Boyut tablosu tanımları

  • Depolama kapasitesi GiB veya 1024^3 bayt cinsinden gösterilmiştir. GB (1000^3 bayt) olarak ölçülen diskleri GiB (1024^3) cinsinden ölçülen disklerle karşılaştırdığınızda, GiB cinsinden verilen kapasite numaralarının daha küçük görünebileceğini unutmayın. Örneğin, 1023 GiB = 1098,4 GB.

  • Disk aktarım hızı, saniye başına giriş/çıkış işlemi sayısı (IOPS) ve MB/sn (MB/sn = 10^6 bayt/sn) üzerinden ölçülür.

  • Veri diskleri önbelleğe alınmış veya alınmamış modlarda çalışabilir. Önbelleğe alınmış veri diski işlemi için ana bilgisayar önbelleği SaltOkunur veya OkuYaz moduna ayarlanır. Önbelleğe alınmamış veri diski işlemi için ana bilgisayar önbelleği Yok moduna ayarlanır.

  • VM'leriniz için en iyi depolama performansını elde etmeyi öğrenmek için bkz . Sanal makine ve disk performansı.

  • Beklenen ağ bant genişliği , tüm hedefler için tüm NIC'ler genelinde VM türü başına ayrılan maksimum toplam bant genişliğidir. Daha fazla bilgi için bkz . Sanal makine ağ bant genişliği.

    Üst sınırlar garanti değildir. Sınırlar, hedeflenen uygulama için doğru VM türünü seçmeye yönelik rehberlik sunar. Gerçek ağ performansı, ağ tıkanıklığı, uygulama yükleri ve ağ ayarları gibi çeşitli faktörlere bağlıdır. Ağ aktarım hızını iyileştirme hakkında bilgi için bkz . Azure sanal makineleri için ağ aktarım hızını iyileştirme. Linux veya Windows'ta beklenen ağ performansını elde etmek için belirli bir sürümü seçmeniz veya VM'nizi iyileştirmeniz gerekebilir. Daha fazla bilgi için bkz . Bant genişliği/aktarım hızı testi (NTTTCP).

Diğer boyutlar ve bilgiler

Fiyatlandırma Hesaplayıcısı: Fiyatlandırma Hesaplayıcısı

Disk türleri hakkında daha fazla bilgi için bkz. Azure'da hangi disk türleri kullanılabilir?

Sonraki adımlar

Azure işlem birimlerinin (ACU) Azure SKU'ları genelinde işlem performansını karşılaştırmanıza nasıl yardımcı olabileceği hakkında daha fazla bilgi edinin.