NDm A100 v4 serisi sanal makine (VM), Azure GPU ailesine eklenen yeni bir amiral gemisidir. Bu boyutlar üst düzey Derin Öğrenme eğitimi ve sıkı bir şekilde bağlanmış ölçeği artırma ve ölçeği genişletme HPC iş yükleri için tasarlanmıştır.
NDm A100 v4 serisi tek bir VM ve sekiz NVIDIA Ampere A100 80 GB Tensor Core GPU ile başlar. NDm A100 v4 tabanlı dağıtımlar, VM başına 1,6 TB/sn bağlantı bant genişliğiyle binlerce GPU'ya kadar ölçeklendirilebilir. VM içindeki her GPU kendi ayrılmış, topolojiden bağımsız 200 GB/sn NVIDIA Mellanox HDR InfiniBand bağlantısı ile sağlanır. Bu bağlantılar, aynı Azure Sanal Makine Ölçek Kümesi'ni kaplayan VM'ler arasında otomatik olarak yapılandırılır ve GPU Doğrudan RDMA'yı destekler.
Her GPU, arkalarında 96 fiziksel 2. nesil AMD Epyc™ 7V12 (Roma) CPU çekirdeği bulunan VM içinde iletişim için NVLINK 3.0 bağlantısına sahiptir.
Bu örnekler TensorFlow, Pytorch, Caffe, RAPIDS ve diğer çerçeveler gibi GPU hızlandırmayı destekleyen 'kullanıma hazır' GPU hızlandırmasını destekleyen birçok yapay zeka, ML ve analiz aracı için mükemmel performans sağlar. Buna ek olarak, ölçeği genişleten InfiniBand bağlantısı, GPU'ların sorunsuz kümelenmesi için NVIDIA'nın NCCL2 iletişim kitaplıkları üzerine oluşturulmuş çok sayıda mevcut yapay zeka ve HPC aracını destekler.
1Geçici disk hızı genellikle RR (Rastgele Okuma) ile RW (Rastgele Yazma) işlemleri arasında farklılık gösterir. RR işlemleri genellikle RW işlemlerinden daha hızlıdır. RW hızı genellikle yalnızca RR hız değerinin listelendiği serideki RR hızından daha yavaştır.
Depolama kapasitesi GiB veya 1024^3 bayt cinsinden gösterilmiştir. GB (1000^3 bayt) olarak ölçülen diskleri GiB (1024^3) cinsinden ölçülen disklerle karşılaştırdığınızda, GiB cinsinden verilen kapasite numaralarının daha küçük görünebileceğini unutmayın. Örneğin, 1023 GiB = 1098,4 GB.
Disk aktarım hızı, saniye başına giriş/çıkış işlemi sayısı (IOPS) ve MB/sn (MB/sn = 10^6 bayt/sn) üzerinden ölçülür.
Depolama kapasitesi GiB veya 1024^3 bayt cinsinden gösterilmiştir. GB (1000^3 bayt) olarak ölçülen diskleri GiB (1024^3) cinsinden ölçülen disklerle karşılaştırdığınızda, GiB cinsinden verilen kapasite numaralarının daha küçük görünebileceğini unutmayın. Örneğin, 1023 GiB = 1098,4 GB.
Disk aktarım hızı, saniye başına giriş/çıkış işlemi sayısı (IOPS) ve MB/sn (MB/sn = 10^6 bayt/sn) üzerinden ölçülür.
Veri diskleri önbelleğe alınmış veya alınmamış modlarda çalışabilir. Önbelleğe alınmış veri diski işlemi için ana bilgisayar önbelleği SaltOkunur veya OkuYaz moduna ayarlanır. Önbelleğe alınmamış veri diski işlemi için ana bilgisayar önbelleği Yok moduna ayarlanır.
Beklenen ağ bant genişliği, tüm hedefler için tüm NIC'ler genelinde VM türü başına ayrılan maksimum toplam bant genişliğidir. Daha fazla bilgi için bkz. Sanal makine ağ bant genişliği
Üst sınırlar garanti değildir. Sınırlar, hedeflenen uygulama için doğru VM türünü seçmeye yönelik rehberlik sunar. Gerçek ağ performansı, ağ tıkanıklığı, uygulama yükleri ve ağ ayarları gibi çeşitli faktörlere bağlıdır. Ağ aktarım hızını iyileştirme hakkında bilgi için bkz . Azure sanal makineleri için ağ aktarım hızını iyileştirme.
Linux veya Windows'ta beklenen ağ performansını elde etmek için belirli bir sürümü seçmeniz veya VM'nizi iyileştirmeniz gerekebilir. Daha fazla bilgi için bkz . Bant genişliği/aktarım hızı testi (NTTTCP).
Her boyut için hızlandırıcı (GPU'lar, FPGA'lar vb.) bilgileri