Seri ukuran komputer virtual yang dipercepat GPU sub-keluarga 'ND'
Berlaku untuk: ✔️ Mesin virtual Linux ✔️ Mesin virtual Windows ✔️ Set skala fleksibel ✔️ Set skala seragam
Rangkaian 'ND' dari seri ukuran VM adalah salah satu instans VM yang dipercepat GPU Azure. Mereka dirancang untuk pembelajaran mendalam, penelitian AI, dan tugas komputasi berkinerja tinggi yang mendapat manfaat dari akselerasi GPU yang kuat. Dilengkapi dengan GPU NVIDIA, VM seri ND menawarkan kemampuan khusus untuk pelatihan dan inferensi model pembelajaran mesin yang kompleks, memfasilitasi komputasi yang lebih cepat dan penanganan himpunan data besar yang efisien. Hal ini membuatnya sangat cocok untuk aplikasi akademik dan komersial dalam pengembangan dan simulasi AI, di mana teknologi GPU mutakhir sangat penting untuk mencapai hasil yang cepat dan akurat dalam pemrosesan jaringan syraf dan tugas intensif komputasi lainnya.
Beban kerja dan kasus penggunaan
AI dan Pembelajaran Mendalam: VM ND-family sangat ideal untuk melatih dan menyebarkan model pembelajaran mendalam yang kompleks. Dilengkapi dengan GPU NVIDIA yang kuat, mereka menyediakan daya komputasi yang diperlukan untuk menangani pelatihan jaringan saraf yang luas dengan himpunan data besar, secara signifikan mengurangi waktu pelatihan.
Komputasi Performa Tinggi (HPC): VM ND-family cocok untuk aplikasi HPC yang memerlukan akselerasi GPU. Bidang seperti penelitian ilmiah, simulasi teknik (misalnya, dinamika cairan komputasi), dan pemrosesan genomik dapat memperoleh manfaat dari kemampuan komputasi throughput tinggi VM seri ND.
Rendering Grafis: GPU ND-family menjadikannya pilihan yang bagus untuk tugas intensif grafis, termasuk penyajian real time untuk animasi dan produksi video, serta simulasi keakuratan tinggi untuk lingkungan realitas virtual.
Visualisasi Jarak Jauh: VM ND-family dapat digunakan untuk visualisasi jarak jauh tugas intensif data, di mana kemampuan GPU kelas atas diperlukan untuk memproses dan merender visualisasi kompleks melalui cloud, memfasilitasi akses dari komputer klien yang kurang kuat.
Seri dalam keluarga
Seri ND V1
Komputer virtual seri ND adalah tambahan baru untuk keluarga GPU yang dirancang untuk AI, dan beban kerja Pembelajaran Mendalam. Seri ND menawarkan performa yang sangat baik untuk pelatihan dan inferensi. Instans ND didukung oleh GPU NVIDIA Tesla P40 dan CPU Intel Xeon E5-2690 v4 (Broadwell). Instans ini memberikan performa yang sangat baik untuk operasi floating point presisi tunggal, untuk beban kerja AI yang menggunakan Microsoft Cognitive Toolkit, TensorFlow, Caffe, dan kerangka kerja lainnya. Seri ND juga menawarkan ukuran memori GPU yang jauh lebih besar (24 GB), memungkinkannya untuk menyesuaikan model jaringan saraf yang jauh lebih besar. Seperti seri NC, seri ND menawarkan konfigurasi dengan latensi rendah sekunder, jaringan throughput tinggi melalui RDMA, dan konektivitas InfiniBand sehingga Anda dapat menjalankan pekerjaan pelatihan skala besar yang mencakup banyak GPU.
Lihat halaman seri ND lengkap.
| Bagian | Jumlah Unit Hitung |
Spesifikasi ID SKU, Unit Performa, dll. |
|---|---|---|
| Pemroses | 6 - 24 vCPU | Intel Xeon E5-2690 v4 (Broadwell) [x86-64] |
| Memori | 112 - 448 GiB | |
| Penyimpanan Lokal | 1 Disk | 736 - 2948 GiB |
| Penyimpanan Jarak Jauh | 12 - 32 Disk | 20000 - 80000 IOPS 200 - 800 MBps |
| Jaringan | 4 - 8 NIC | |
| Akselerator | 1 - 4 GPU | GPU Nvidia Tesla P40 (24GB) |
Seri NDv2
Komputer virtual seri NDv2 adalah tambahan baru untuk keluarga GPU yang dirancang untuk kebutuhan beban kerja AI yang dipercepat GPU, pembelajaran mesin, simulasi, dan HPC yang paling banyak diminta.
NDv2 didukung oleh 8 GPU yang terhubung NVIDIA Tesla V100 NVLINK, masing-masing dengan memori GPU 32 GB. Setiap VM NDv2 juga memiliki 40 core Intel Xeon Platinum 8168 (Skylake) non-HyperThreaded dan memori sistem 672 GiB.
Instans NDv2 memberikan performa yang sangat baik untuk beban kerja HPC dan AI yang menggunakan kernel komputasi yang dioptimalkan CUDA GPU, dan berbagai alat AI, ML, dan analitik yang mendukung akselerasi GPU 'out-of-box,' seperti TensorFlow, Pytorch, Caffe, RAPIDS, dan kerangka kerja lainnya.
Yang terpenting, NDv2 dibuat untuk beban kerja peningkatan skala intens (memanfaatkan 8 GPU per VM) dan perluasan skala (memanfaatkan beberapa VM yang bekerja bersama) secara komputasi. Seri NDv2 sekarang mendukung jaringan backend InfiniBand EDR 100-Gigabit, mirip dengan yang tersedia pada seri HB VM HPC, untuk memungkinkan pengklusteran berperforma tinggi untuk skenario paralel seperti pelatihan terdistribusi untuk AI dan ML. Jaringan backend ini mendukung semua protokol InfiniBand utama, termasuk yang digunakan oleh pustaka NCCL2 NVIDIA, yang memungkinkan pengklusteran GPU yang lancar.
Lihat halaman seri NDv2 lengkap
| Bagian | Jumlah Unit Hitung |
Spesifikasi ID SKU, Unit Performa, dll. |
|---|---|---|
| Pemroses | 40 vCPU | Intel Xeon Platinum 8168 (Skylake) [x86-64] |
| Memori | 672 GiB | |
| Penyimpanan Lokal | 1 Disk | 2948 GiB |
| Penyimpanan Jarak Jauh | 32 Disk | 80000 IOPS 800 MBps |
| Jaringan | 8 NIC | 24000 Mbps |
| Akselerator | Tidak |
seri ND_A100_v4
Komputer virtual seri ND A100 v4 (VM) adalah tambahan unggulan baru untuk keluarga GPU Azure. Ukuran ini dirancang untuk pelatihan Pembelajaran Mendalam kelas atas dan beban kerja HPC yang digabungkan dan digabungkan dengan erat.
Seri ND A100 v4 dimulai dengan satu VM dan delapan GPU NVIDIA Ampere A100 40GB Tensor Core. Penyebaran berbasis ND A100 v4 dapat menskalakan hingga ribuan GPU dengan bandwidth interkoneksi 1,6 TB/dtk per VM. Setiap GPU dalam VM disediakan dengan koneksi NVIDIA Mellanox HDR InfiniBand khusus, topologi-agnostik 200 GB/dtk. Koneksi ini secara otomatis dikonfigurasi antara VM yang menempati Azure Virtual Machine Scale Set yang sama, dan mendukung GPU Direct RDMA.
Setiap GPU memiliki konektivitas NVLINK 3.0 untuk komunikasi dalam VM dengan 96 inti CPU AMD Epyc™ 7V12 (Roma) fisik di belakangnya.
Instans ini memberikan performa yang sangat baik untuk berbagai alat AI, ML, dan analitik yang mendukung akselerasi GPU 'out-of-box,' seperti TensorFlow, Pytorch, Caffe, RAPIDS, dan kerangka kerja lainnya. Selain itu, interkoneksi InfiniBand peluasan skala mendukung serangkaian besar alat AI dan HPC yang ada yang dibangun di atas pustaka komunikasi NCCL2 NVIDIA untuk pengklusteran GPU yang mulus.
Lihat halaman seri ND_A100_v4 lengkap.
| Bagian | Jumlah Unit Hitung |
Spesifikasi ID SKU, Unit Performa, dll. |
|---|---|---|
| Pemroses | 96 vCPU | AMD EPYC 7V12 (Roma) [x86-64] |
| Memori | 900 GiB | |
| Penyimpanan Lokal | 1 Disk | 6000 GiB |
| Penyimpanan Jarak Jauh | 32 Disk | 80000 IOPS 800 MBps |
| Jaringan | 8 NIC | 24000 Mbps |
| Akselerator | 8 GPU | GPU Nvidia A100 (40GB) |
Seri NDm_A100_v4
Mesin virtual (VM) seri NDm A100 v4 adalah tambahan unggulan baru untuk keluarga GPU Azure. Ukuran ini dirancang untuk pelatihan Pembelajaran Mendalam kelas atas dan beban kerja HPC yang digabungkan dan digabungkan dengan erat.
Seri NDm A100 v4 dimulai dengan satu VM dan delapan GPU NVIDIA Ampere A100 80GB Tensor Core. Penyebaran berbasis NDm A100 v4 dapat menskalakan hingga ribuan GPU dengan bandwidth interkoneksi 1,6 TB/dtk per VM. Setiap GPU dalam VM disediakan dengan koneksi NVIDIA Mellanox HDR InfiniBand khusus, topologi-agnostik 200 GB/dtk. Koneksi ini secara otomatis dikonfigurasi antara VM yang menempati Azure Virtual Machine Scale Set yang sama, dan mendukung GPU Direct RDMA.
Setiap GPU memiliki konektivitas NVLINK 3.0 untuk komunikasi dalam VM dengan 96 inti CPU AMD Epyc™ 7V12 (Roma) fisik di belakangnya.
Instans ini memberikan performa yang sangat baik untuk berbagai alat AI, ML, dan analitik yang mendukung akselerasi GPU 'out-of-box,' seperti TensorFlow, Pytorch, Caffe, RAPIDS, dan kerangka kerja lainnya. Selain itu, interkoneksi InfiniBand peluasan skala mendukung serangkaian besar alat AI dan HPC yang ada yang dibangun di atas pustaka komunikasi NCCL2 NVIDIA untuk pengklusteran GPU yang mulus.
Lihat halaman seri NDm_A100_v4 lengkap.
| Bagian | Jumlah Unit Hitung |
Spesifikasi ID SKU, Unit Performa, dll. |
|---|---|---|
| Pemroses | 96 vCPU | AMD EPYC 7V12 (Roma) [x86-64] |
| Memori | 1900 GiB | |
| Penyimpanan Lokal | 1 Disk | 6400 GiB |
| Penyimpanan Jarak Jauh | 32 Disk | 80000 IOPS 800 MBps |
| Jaringan | 8 NIC | 24000 Mbps |
| Akselerator | 8 GPU | GPU Nvidia A100 (80GB) |
seri ND_H100_v5
Mesin virtual (VM) seri ND H100 v5 adalah tambahan unggulan baru untuk keluarga GPU Azure. Seri ini dirancang untuk pelatihan Pembelajaran Mendalam kelas atas dan peningkatan skala yang digabungkan dengan erat dan skala beban kerja AI dan HPC Generative.
Seri ND H100 v5 dimulai dengan satu VM dan delapan GPU NVIDIA H100 Tensor Core. Penyebaran berbasis ND H100 v5 dapat menskalakan hingga ribuan GPU dengan bandwidth interkoneksi 3,2 Tbps per VM. Setiap GPU dalam VM disediakan dengan koneksi Khusus, topologi-agnostik 400 Gb/dtk NVIDIA Quantum-2 CX7 InfiniBand. Koneksi ini secara otomatis dikonfigurasi antara VM yang menempati set skala komputer virtual yang sama, dan mendukung GPU Direct RDMA.
Setiap GPU memiliki konektivitas NVLINK 4.0 untuk komunikasi dalam VM, dan instans memiliki 96 core prosesor Intel Xeon Scalable Gen keempat fisik.
Instans ini memberikan performa yang sangat baik untuk banyak alat AI, ML, dan analitik yang mendukung akselerasi GPU 'out-of-the-box,' seperti TensorFlow, Pytorch, Caffe, RAPIDS, dan kerangka kerja lainnya. Selain itu, interkoneksi InfiniBand peluasan skala mendukung serangkaian besar alat AI dan HPC yang ada yang dibangun di atas pustaka komunikasi NCCL NVIDIA untuk pengklusteran GPU yang mulus.
Lihat halaman seri ND_H100_v5 lengkap.
| Bagian | Jumlah Unit Hitung |
Spesifikasi ID SKU, Unit Performa, dll. |
|---|---|---|
| Pemroses | 96 vCPU | Intel Xeon (Sapphire Rapids) [x86-64] |
| Memori | 1900 GiB | |
| Penyimpanan Lokal | 1 Disk | 28000 GiB |
| Penyimpanan Jarak Jauh | 32Disks | |
| Jaringan | 8 NIC | |
| Akselerator | 8 GPU | GPU Nvidia H100 (80GB) |
seri ND_MI300X_v5
Mesin virtual (VM) seri ND MI300X v5 adalah tambahan unggulan baru untuk keluarga GPU Azure. Ini dirancang untuk pelatihan Pembelajaran Mendalam kelas atas dan meningkatkan skala dan menskalakan beban kerja Generative AI dan HPC yang digabungkan dengan erat.
VM seri ND MI300X v5 dimulai dengan delapan GPU AMD Instinct MI300 dan dua prosesor Intel Xeon Scalable Gen keempat untuk total 96 core fisik. Setiap GPU dalam VM kemudian terhubung satu sama lain melalui tautan Infinity Fabric AMD Gen ke-4 dengan bandwidth 128 GB/dtk per GPU dan bandwidth agregat 896 GB/dtk.
Penyebaran berbasis ND MI300X v5 dapat menskalakan hingga ribuan GPU dengan bandwidth interkoneksi 3,2 Tb/dtk per VM. Setiap GPU dalam VM disediakan dengan koneksi Khusus, topologi-agnostik 400 Gb/dtk NVIDIA Quantum-2 CX7 InfiniBand. Koneksi ini secara otomatis dikonfigurasi antara VM yang menempati set skala mesin virtual yang sama, dan mendukung GPUDirect RDMA.
Instans ini memberikan performa yang sangat baik untuk banyak alat AI, ML, dan analitik yang mendukung akselerasi GPU "out-of-the-box," seperti TensorFlow, Pytorch, dan kerangka kerja lainnya. Selain itu, interkoneksi InfiniBand peluasan skala mendukung serangkaian besar alat AI dan HPC yang ada yang dibangun di ROCm Communication Collectives Library (RCCL) AMD untuk pengklusteran GPU yang mulus.
Lihat halaman seri ND_MI300X_v5 lengkap.
| Bagian | Jumlah Unit Hitung |
Spesifikasi ID SKU, Unit Performa, dll. |
|---|---|---|
| Pemroses | 96 vCPU | Intel Xeon (Sapphire Rapids) [x86-64] |
| Memori | 1850 GiB | |
| Penyimpanan Lokal | 1 Disk Sementara 8 Disk NVMe |
Disk Sementara 1000 GiB 28000 GiB NVMe Disk |
| Penyimpanan Jarak Jauh | 32 Disk | 80000 IOPS 1200 MBps |
| Jaringan | 8 NIC | |
| Akselerator | 8 GPU | AMD Instinct MI300X GPU (192GB) |
Seri keluarga ND generasi sebelumnya
Untuk ukuran yang lebih lama, lihat ukuran generasi sebelumnya.
Informasi ukuran lainnya
Daftar semua ukuran yang tersedia: Ukuran
Kalkulator Harga: Kalkulator Harga
Informasi tentang Jenis Disk: Jenis Disk
Langkah berikutnya
Pelajari selengkapnya tentang cara pelajaran komputasi Azure (ACU) dapat membantu Anda membandingkan performa komputasi di seluruh SKU Azure.
Lihat Azure Dedicated Hosts untuk server fisik yang dapat menghosting satu atau beberapa komputer virtual yang ditetapkan ke satu langganan Azure.
Pelajari cara Memantau komputer virtual Azure.