Aracılığıyla paylaş

ND-H100-v5 boyutları serisi

ND H100 v5 serisi sanal makine (VM), Azure GPU ailesine eklenen yeni bir amiral gemisidir. Bu seri, üst düzey Derin Öğrenme eğitimi ve sıkı bir şekilde birleştirilmiş ölçek artırma ve ölçeği genişletme Üretken Yapay Zeka ve HPC iş yükleri için tasarlanmıştır.

ND H100 v5 serisi tek bir VM ve sekiz NVIDIA H100 Tensor Core GPU ile başlar. ND H100 v5 tabanlı dağıtımlar, VM başına 3,2 Tbps ara bağlantı bant genişliği ile binlerce GPU'ya kadar ölçeklendirilebilir. VM içindeki her GPU kendi ayrılmış, topolojiden bağımsız 400 Gb/sn NVIDIA Quantum-2 CX7 InfiniBand bağlantısı ile sağlanır. Bu bağlantılar, aynı sanal makine ölçek kümesini kaplayan VM'ler arasında otomatik olarak yapılandırılır ve GPU Doğrudan RDMA'yı destekler.

Her GPU, VM içindeki iletişim için NVLINK 4.0 bağlantısına sahiptir ve örnekte 96 fiziksel dördüncü Nesil Intel Xeon Ölçeklenebilir işlemci çekirdeği vardır.

Bu örnekler TensorFlow, Pytorch, Caffe, RAPIDS ve diğer çerçeveler gibi GPU hızlandırmayı destekleyen 'kullanıma hazır' GPU hızlandırmasını destekleyen birçok yapay zeka, ML ve analiz aracı için mükemmel performans sağlar. Buna ek olarak, ölçek genişletme InfiniBand bağlantısı, GPU'ların sorunsuz kümelenmesi için NVIDIA'nın NCCL iletişim kitaplıkları üzerinde oluşturulmuş olan büyük bir yapay zeka ve HPC araçlarını destekler.

Konak belirtimleri

Bölüm Miktar
Birim Sayısı		 Özellikleri
SKU Kimliği, Performans Birimleri vb.
İşleyen 96 vCPU Intel Xeon (Safir Rapids) [x86-64]
Bellek 1900 GiB
Yerel Depolama 1 Disket 28000 GiB
Uzakta Depolama 32Disk
Ağ 8 NIC
Hızlandırıcılar 8 GPU Nvidia H100 GPU (80 GB)

Özellik desteği

Premium Depolama: Desteklenir
Premium Depolama önbelleğe alma: Desteklenir
Dinamik Geçiş: Desteklenmiyor
Bellek Koruma Güncelleştirmeleri: Desteklenmiyor
2. Nesil VM'ler: Desteklenir
1. Nesil VM'ler: Desteklenmiyor
Hızlandırılmış Ağ: Desteklenir
Kısa Ömürlü İşletim Sistemi Diski: Desteklenir
İç İçe Sanallaştırma: Desteklenmiyor
Infiniband: Desteklenir

Önemli

ND H100 v5 VM'lerini kullanmaya başlamak için, sürücü ve ağ yapılandırması dahil olmak üzere adımlar için HPC İş Yükü Yapılandırması ve İyileştirme bölümüne bakın. ARTAN GPU bellek G/Ç ayak izi nedeniyle ND H100 v5, 2. Nesil VM'lerin ve market görüntülerinin kullanılmasını gerektirir.

Azure desteği s Ubuntu 20.04/22.04, RHEL 7.9/8.7/9.3, AlmaLinux 8.8/9.2 ve ND H100 v5 VM'leri için SLES 15. Şu anda Ubuntu-HPC 20.4/22.04 ve AlmaLinux-HPC 8.6/8.7 VM görüntüleri desteklenmektedir.

Çeşitli HPC araçları ve kitaplıkları yüklü HPC/AI iş yükleri için iyileştirilmiş ve önceden yapılandırılmış Linux VM görüntüleri teklifleri vardır ve bu nedenle bunlar kesinlikle önerilir.

Görüntü indirmek için Azure Market gidin.

Serideki boyutlar

Her boyut için vCPU'lar (Mkt.) ve Bellek

Boyut Adı vCPU'lar (Mkt.) Bellek (GB)
Standard_ND96isr_H100_v5 96 1900

VM TemelLeri kaynakları

Diğer boyut bilgileri

Kullanılabilir tüm boyutların listesi: Boyutlar

Fiyatlandırma Hesaplayıcısı: Fiyatlandırma Hesaplayıcısı

Disk Türleri hakkında bilgi: Disk Türleri

Sonraki adımlar

Sanal makinenin boyutunu değiştirerek iş yükleriniz için kullanılabilen en son performans ve özelliklerden yararlanın.

Azure Cobalt VM'leri ile Microsoft'un şirket içinde tasarlanmış ARM işlemcilerini kullanma.

Azure sanal makinelerini izlemeyi öğrenin.