'ND' alt ailesi GPU hızlandırmalı sanal makine boyutu serisi

Geçerlidir: ✔️ Linux VMs ✔️ Windows VMs ✔️ Flexible scale sets ✔️ Uniform scale sets

'ND' boyut serisine ait VM ailesi, Azure'un GPU hızlandırmalı VM örneklerinden biridir. Derin öğrenme, yapay zeka araştırmaları ve güçlü GPU hızlandırmasından yararlanan yüksek performanslı hesaplama görevleri için tasarlanmışlardır. NVIDIA GPU'larla donatılmış ND serisi VM'ler, karmaşık makine öğrenimi modellerinin eğitimi ve çıkarımı için uzmanlaşmış yetenekler sunarak daha hızlı hesaplamalar ve büyük veri kümelerinin verimli şekilde işlenmesini sağlar. Bu durum, onları yapay zeka geliştirme ve simülasyonundaki akademik ve ticari uygulamalar için özellikle uygun hale getirir; burada, en son GPU teknolojisi, sinir ağı işlemesi ve diğer hesaplama açısından yoğun görevlerde hızlı ve doğru sonuçlar elde etmek için çok önemlidir.

İş yükleri ve kullanım senaryoları

Yapay Zeka ve Derin Öğrenme: ND-tipi VM'ler, karmaşık derin öğrenme modellerini eğitmek ve dağıtmak için idealdir. Güçlü NVIDIA GPU'larla donatılmış olarak, büyük veri setleri ile kapsamlı sinir ağı eğitimini gerçekleştirmek için gerekli hesaplama gücünü sağlarlar ve eğitim sürelerini önemli ölçüde azaltırlar.

Yüksek Performanslı Hesaplama (HPC): GPU hızlandırması gerektiren HPC uygulamaları için ND aile sanal makineleri uygundur. Bilimsel araştırma, mühendislik simülasyonları (örneğin, hesaplamalı akışkanlar dinamiği) ve genomik işleme gibi alanlar, ND serisi VM'lerin yüksek iş hacmine sahip hesaplama yeteneklerinden faydalanabilir.

Aile içindeki diziler

ND serisi V1

ND-serisi sanal makineler, Yapay Zeka ve Derin Öğrenme iş yükleri için tasarlanmış GPU ailesine yeni bir eklemedir. Eğitim ve çıkarım için mükemmel performans sunarlar. ND örnekleri, NVIDIA Tesla P40 GPU’ları ve Intel Xeon E5-2690 v4 (Broadwell) CPU’ları tarafından desteklenmektedir. Bu örnekler, Microsoft Cognitive Toolkit, TensorFlow, Caffe ve diğer çerçeveleri kullanan yapay zeka iş yükleri için tek hassasiyetli kayan nokta işlemlerinde mükemmel performans sunar. ND serisi ayrıca çok daha büyük bir GPU bellek boyutu (24 GB) sunarak çok daha büyük yapay sinir ağı modellerinin sığdırılmasına olanak sağlar. NC serisine benzer şekilde, ND serisi, RDMA ve InfiniBand bağlantısı aracılığıyla ikincil düşük gecikmeli, yüksek verimli bir ağ yapılandırması sunar, böylece birçok GPU'yu kapsayan büyük ölçekli eğitim işleri gerçekleştirebilirsiniz.

ND-serisi sayfasını tam olarak görüntüleyin.

Bölüm Miktar
Birimleri Say
Özellikler
SKU ID, Performans Birimleri, vb.
İşlemci 6 - 24 vCPU'lar Intel Xeon E5-2690 v4 (Broadwell) [x86-64]
Bellek 112 - 448 GiB
Yerel Depolama 1 Disket 736 - 2948 GiB
Uzaktan Depolama 12 - 32 Diskler 20000 - 80000 IOPS
200 - 800 MBps
4 - 8 Ağ Arayüz Kartı (AAK)
Hızlandırıcılar 1 - 4 GPU Nvidia Tesla P40 GPU (24 GB)

NDv2 serisi

NDv2-serisi sanal makine, en zorlu GPU destekli yapay zeka, makine öğrenimi, simülasyon ve HPC iş yükleri ihtiyaçlarına yönelik olarak GPU ailesine eklenen yeni bir üründür.

NDv2, her biri 32 GB GPU belleğe sahip 8 NVIDIA Tesla V100 NVLINK bağlantılı GPU tarafından desteklenmektedir. Her NDv2 VM ayrıca 40 adet HyperThread olmayan Intel Xeon Platinum 8168 (Skylake) çekirdeğine ve 672 GiB sistem belleğine sahiptir.

NDv2 örnekleri, CUDA GPU ile optimize edilmiş hesaplama çekirdeklerini kullanan HPC ve AI iş yükleri için mükemmel performans sağlar ve TensorFlow, Pytorch, Caffe, RAPIDS gibi çeşitli AI, ML ve analitik araçlar ile diğer framework'ler gibi GPU hızlandırmasını 'kutudan çıktığı gibi' destekleyen birçok aracı destekler.

Kritik olarak, NDv2 hem hesaplama yoğunluğu yüksek genişleme (her sanal makine için 8 GPU kullanarak) hem de ölçeklendirme (birlikte çalışan birden fazla sanal makine kullanarak) iş yükleri için yapılmıştır. NDv2 serisi, HPC VM'nin HB serisinde bulunana benzer şekilde, AI ve ML için dağıtılmış eğitim dahil olmak üzere paralel senaryolar için yüksek performanslı kümeleme sağlayabilen 100-Gigabit InfiniBand EDR arka uç ağına artık destek vermektedir. Bu arka uç ağı, NVIDIA'nın NCCL2 kütüphaneleri tarafından kullanılanlar da dahil olmak üzere tüm önemli InfiniBand protokollerini destekler ve GPU'ların sorunsuz bir şekilde kümelenmesini sağlar.

NDv2 serisi sayfasının tamamını görüntüle

Bölüm Miktar
Birimleri Say
Özellikler
SKU ID, Performans Birimleri, vb.
İşlemci 40 vCPU'lar Intel Xeon Platinum 8168 (Skylake) [x86-64]
Bellek 672 GiB
Yerel Depolama 1 Disket 2948 GiB
Uzaktan Depolama 32 Diskler 80000 IOPS
800 MBps
8 Ağ Arabirim Kartları 24000 Mb/sn
Hızlandırıcılar 8

ND_A100_v4 serisi

ND A100 v4 serisi sanal makine (VM), Azure GPU ailesine yeni bir amiral gemisi eklemesidir. Bu boyutlar, üst düzey Derin Öğrenme eğitimi ve sıkı bir şekilde entegre edilmiş ölçekleme ve ölçek artışı HPC iş yükleri için tasarlanmıştır.

ND A100 v4 serisi, tek bir VM ve sekiz NVIDIA Ampere A100 40GB Tensor Çekirdekli GPU ile başlar. ND A100 v4 tabanlı dağıtımlar, her sanal makine başına 1,6 TB/sn bağlantı bant genişliği ile binlerce GPU'ya kadar ölçeklenebilir. VM içindeki her bir GPU, kendi özel, topolojiye duyarsız 200 GB/s NVIDIA Mellanox HDR InfiniBand bağlantısıyla sağlanır. Bu bağlantılar, aynı Azure Sanal Makine Ölçek Kümesi'ni işgal eden VM'ler arasında otomatik olarak yapılandırılır ve GPU Direct RDMA'yı destekler.

Her bir GPU, kendisinin arkasında 96 fiziksel 2. nesil AMD Epyc™ 7V12 (Rome) CPU çekirdeği ile VM içinde iletişim için NVLINK 3.0 bağlantısı özelliğine sahiptir.

Bu örnekler, TensorFlow, Pytorch, Caffe, RAPIDS ve diğer çerçeveler gibi, GPU hızlandırmasını 'hazır' destekleyen birçok AI, ML ve analitik aracı için mükemmel bir performans sağlar. Ayrıca, ölçeklenebilir InfiniBand ara bağlantısı, NVIDIA'nın NCCL2 iletişim kütüphaneleri üzerine inşa edilen mevcut AI ve HPC araçlarının büyük bir kümesini destekleyerek GPU'ların sorunsuz bir şekilde kümelenmesini sağlar.

Tam ND_A100_v4-serisi sayfasını görüntüle.

Bölüm Miktar
Birimleri Say
Özellikler
SKU ID, Performans Birimleri, vb.
İşlemci 96 vCPU'ler AMD EPYC 7V12 (Roma) [x86-64]
Bellek 900 GiB
Yerel Depolama 1 Disket 6000 GiB
Uzaktan Depolama 32 Diskler 80000 IOPS
800 MBps
8 Ağ Arabirim Kartları 24000 Mb/sn
Hızlandırıcılar 8 GPU Nvidia A100 GPU (40 GB)

NDm_A100_v4 serisi

NDm A100 v4 serisi sanal makine (VM), Azure GPU ailesine yeni bir amiral gemisi eklemesidir. Bu boyutlar, üst düzey Derin Öğrenme eğitimi ve sıkı bir şekilde entegre edilmiş ölçekleme ve ölçek artışı HPC iş yükleri için tasarlanmıştır.

NDm A100 v4 serisi, tek bir VM ve sekiz NVIDIA Ampere A100 80GB Tensor Core GPU ile başlar. NDm A100 v4 tabanlı dağıtımlar, her VM için 1.6 TB/sn arabağlantı bant genişliği ile binlerce GPU'ya kadar ölçeklendirilebilir. VM içindeki her bir GPU, kendi özel, topolojiye duyarsız 200 GB/s NVIDIA Mellanox HDR InfiniBand bağlantısıyla sağlanır. Bu bağlantılar, aynı Azure Sanal Makine Ölçek Kümesi'ni işgal eden VM'ler arasında otomatik olarak yapılandırılır ve GPU Direct RDMA'yı destekler.

Her bir GPU, kendisinin arkasında 96 fiziksel 2. nesil AMD Epyc™ 7V12 (Rome) CPU çekirdeği ile VM içinde iletişim için NVLINK 3.0 bağlantısı özelliğine sahiptir.

Bu örnekler, TensorFlow, Pytorch, Caffe, RAPIDS ve diğer çerçeveler gibi, GPU hızlandırmasını 'hazır' destekleyen birçok AI, ML ve analitik aracı için mükemmel bir performans sağlar. Ayrıca, ölçeklenebilir InfiniBand ara bağlantısı, NVIDIA'nın NCCL2 iletişim kütüphaneleri üzerine inşa edilen mevcut AI ve HPC araçlarının büyük bir kümesini destekleyerek GPU'ların sorunsuz bir şekilde kümelenmesini sağlar.

Tüm NDm_A100_v4-serisi sayfasını görüntüle.

Bölüm Miktar
Birimleri Say
Özellikler
SKU ID, Performans Birimleri, vb.
İşlemci 96 vCPU'ler AMD EPYC 7V12 (Roma) [x86-64]
Bellek 1900 GiB
Yerel Depolama 1 Disket 6400 GiB
Uzaktan Depolama 32 Diskler 80000 IOPS
800 MBps
8 Ağ Arabirim Kartları 24000 Mb/sn
Hızlandırıcılar 8 GPU Nvidia A100 GPU (80 GB)

ND_H100_v5 serisi

ND H100 v5 serisi sanal makinesi, Azure GPU ailesine yeni bir amiral gemisi eklemesidir. Bu seri, üst düzey Derin Öğrenme eğitimleri ve yakın sıkı bağlı ölçeği büyütme ve ölçeklendirme Üretken Yapay Zeka ile Yüksek Performanslı Hesaplama iş yükleri için tasarlanmıştır.

ND H100 v5 serisi, tek bir sanal makine ve sekiz adet NVIDIA H100 Tensor Core GPU ile başlar. ND H100 v5 tabanlı dağıtımlar, VM başına 3.2 Tbps ara bağlantı bant genişliği ile binlerce GPU'ya kadar ölçeklenebilir. VM içindeki her bir GPU'ya kendi özel, topoloji bağımsız 400 Gb/sn NVIDIA Quantum-2 CX7 InfiniBand bağlantısı sağlanır. Bu bağlantılar, aynı sanal makine ölçek kümesini işgal eden VM'ler arasında otomatik olarak yapılandırılır ve GPU Direct RDMA'yı destekler.

Her bir GPU, VM içinde iletişim için NVLINK 4.0 bağlantısına sahiptir ve örnekte 96 fiziksel dördüncü nesil Intel Xeon Ölçeklenebilir işlemci çekirdeği bulunmaktadır.

Bu örnekler, TensorFlow, Pytorch, Caffe, RAPIDS ve diğer biçimler gibi GPU hızlandırmasını ‘kutu dışı’ destekleyen birçok AI, ML ve analitik araç için mükemmel performans sağlar. Ayrıca, ölçeklenebilir InfiniBand ara bağlantısı, GPU'ların sorunsuz kümelenmesi için NVIDIA'nın NCCL iletişim kitaplıkları üzerine inşa edilmiş mevcut AI ve HPC araçlarının geniş bir setini destekler.

ND_H100_v5-serisi sayfasını tamamen görüntüle.

Bölüm Miktar
Birimleri Say
Özellikler
SKU ID, Performans Birimleri, vb.
İşlemci 96 vCPU'ler Intel Xeon (Safir Rapids) [x86-64]
Bellek 1900 GiB
Yerel Depolama 1 Disket 1024 GiB
Uzaktan Depolama 32Disk
8 Ağ Arabirim Kartları
Hızlandırıcılar 8 GPU Nvidia H100 GPU (80 GB)

ND_MI300X_v5 serisi

ND MI300X v5 serisi sanal makine (VM), Azure GPU ailesine yeni eklenen bir amiral gemisidir. Yüksek kaliteli Derin Öğrenme eğitimi ve sıkı bağlı ölçeklendirme ve yayılmaya yönelik Üretici Yapay Zeka ve Yüksek Performanslı Hesaplama iş yükleri için tasarlandı.

ND MI300X v5 serisi VM, toplamda 96 fiziksel çekirdeğe sahip olmak üzere, sekiz AMD Instinct MI300 GPU ve iki dördüncü nesil Intel Xeon Ölçeklenebilir işlemciyle başlar. VM içindeki her bir GPU, daha sonra GPU başına 128 GB/s bant genişliği ve toplamda 896 GB/s bant genişliği ile 4. Nesil AMD Infinity Fabric bağlantıları aracılığıyla birbirine bağlanır.

ND MI300X v5 tabanlı dağıtımlar, her sanal makine (VM) için 3.2 Tb/sn ara bağlantı bant genişliği ile binlerce GPU'ya kadar ölçeklendirilebilir. VM içindeki her bir GPU'ya kendi özel, topoloji bağımsız 400 Gb/sn NVIDIA Quantum-2 CX7 InfiniBand bağlantısı sağlanır. Aynı sanal makine ölçek kümesini kullanan VM'ler arasındaki bağlantılar otomatik olarak yapılandırılır ve GPUDirect RDMA'yı destekler.

Bu örnekler, TensorFlow, Pytorch ve diğer platformlar gibi GPU hızlandırmasını "kutudan çıktığı gibi" destekleyen birçok AI, ML ve analiz aracı için mükemmel performans sağlar. Ayrıca, ölçeklenebilir InfiniBand bağlantısı, GPU'ların sorunsuz bir şekilde kümelenmesi için AMD’nin ROCm İletişim Kolektifleri Kütüphanesi (RCCL) üzerine kurulu mevcut AI ve HPC araçlarının geniş bir setini destekler.

ND_MI300X_v5-serisi sayfanın tamamını görüntüle.

Bölüm Miktar
Birimleri Say
Özellikler
SKU ID, Performans Birimleri, vb.
İşlemci 96 vCPU'ler Intel Xeon (Safir Rapids) [x86-64]
Bellek 1850 GiB
Yerel Depolama 1 Geçici Disk
8 NVMe Diski
1000 GiB Geçici Disk
28000 GiB NVMe Diskleri
Uzaktan Depolama 16 Diskler 80000 IOPS
1200 MBps
8 Ağ Arabirim Kartları
Hızlandırıcılar 8 GPU AMD Instinct MI300X GPU (192 GB)

Önceki nesil ND aile serisi

Daha eski boyutlar için önceki nesil boyutlarına bakın.

Diğer boyut bilgileri

Mevcut tüm boyutların listesi: Sizes

Fiyatlandırma Hesaplayıcısı: Fiyatlandırma Hesaplayıcısı

Disk Türleri Hakkında Bilgi: Disk Türleri

Sonraki adımlar

Yükleriniz için mevcut olan en son performans ve özelliklerden yararlanmak için bir sanal makinenin boyutunu değiştirin.

Microsoft'un kendi tasarımı olan ARM işlemcileri Azure Cobalt VM'leri ile kullanın.

Azure sanal makinelerini nasıl izleyeceğinizi öğrenin.