Seri ukuran komputer virtual yang dipercepat GPU sub-keluarga 'ND'
Berlaku untuk: ✔️ Mesin virtual Linux ✔️ Mesin virtual Windows ✔️ Set skala fleksibel ✔️ Set skala seragam
Rangkaian 'ND' dari seri ukuran VM adalah salah satu instans VM yang dipercepat GPU Azure. Mereka dirancang untuk pembelajaran mendalam, penelitian AI, dan tugas komputasi berkinerja tinggi yang mendapat manfaat dari akselerasi GPU yang kuat. Dilengkapi dengan GPU NVIDIA, VM seri ND menawarkan kemampuan khusus untuk pelatihan dan inferensi model pembelajaran mesin yang kompleks, memfasilitasi komputasi yang lebih cepat dan penanganan himpunan data besar yang efisien. Hal ini membuatnya sangat cocok untuk aplikasi akademik dan komersial dalam pengembangan dan simulasi AI, di mana teknologi GPU mutakhir sangat penting untuk mencapai hasil yang cepat dan akurat dalam pemrosesan jaringan syraf dan tugas intensif komputasi lainnya.
Beban kerja dan kasus penggunaan
AI dan Pembelajaran Mendalam: VM ND-family sangat ideal untuk melatih dan menyebarkan model pembelajaran mendalam yang kompleks. Dilengkapi dengan GPU NVIDIA yang kuat, mereka menyediakan daya komputasi yang diperlukan untuk menangani pelatihan jaringan saraf yang luas dengan himpunan data besar, secara signifikan mengurangi waktu pelatihan.
Komputasi Performa Tinggi (HPC): VM ND-family cocok untuk aplikasi HPC yang memerlukan akselerasi GPU. Bidang seperti penelitian ilmiah, simulasi teknik (misalnya, dinamika cairan komputasi), dan pemrosesan genomik dapat memperoleh manfaat dari kemampuan komputasi throughput tinggi VM seri ND.
Rendering Grafis: GPU ND-family menjadikannya pilihan yang bagus untuk tugas intensif grafis, termasuk penyajian real time untuk animasi dan produksi video, serta simulasi keakuratan tinggi untuk lingkungan realitas virtual.
Visualisasi Jarak Jauh: VM ND-family dapat digunakan untuk visualisasi jarak jauh tugas intensif data, di mana kemampuan GPU kelas atas diperlukan untuk memproses dan merender visualisasi kompleks melalui cloud, memfasilitasi akses dari komputer klien yang kurang kuat.
Seri dalam keluarga
Seri ND V1
Komputer virtual seri ND adalah tambahan baru untuk keluarga GPU yang dirancang untuk AI, dan beban kerja Pembelajaran Mendalam. Seri ND menawarkan performa yang sangat baik untuk pelatihan dan inferensi. Instans ND didukung oleh GPU NVIDIA Tesla P40 dan CPU Intel Xeon E5-2690 v4 (Broadwell). Instans ini memberikan performa yang sangat baik untuk operasi floating point presisi tunggal, untuk beban kerja AI yang menggunakan Microsoft Cognitive Toolkit, TensorFlow, Caffe, dan kerangka kerja lainnya. Seri ND juga menawarkan ukuran memori GPU yang jauh lebih besar (24 GB), memungkinkannya untuk menyesuaikan model jaringan saraf yang jauh lebih besar. Seperti seri NC, seri ND menawarkan konfigurasi dengan latensi rendah sekunder, jaringan throughput tinggi melalui RDMA, dan konektivitas InfiniBand sehingga Anda dapat menjalankan pekerjaan pelatihan skala besar yang mencakup banyak GPU.
Lihat halaman seri ND lengkap.
| Bagian | Jumlah Unit Hitung |
Spesifikasi ID SKU, Unit Performa, dll. |
|---|---|---|
| Pemroses | 6 - 24vCore | Intel® Xeon® E5-2690 v4 (Broadwell) |
| Memori | 112 - 448GiB | |
| Disk Data | 12 - 32Disk | 20000 - 80000IOPS / 200 - 800MBps |
| Jaringan | 4 - 8NIC | |
| Akselerator | 1 - 4GPU | NVIDIA Tesla P40 24GiB 24 - 96GiB per VM |
Seri NDv2
Komputer virtual seri NDv2 adalah tambahan baru untuk keluarga GPU yang dirancang untuk kebutuhan beban kerja AI yang dipercepat GPU, pembelajaran mesin, simulasi, dan HPC yang paling banyak diminta. NDv2 didukung oleh 8 GPU yang terhubung NVIDIA Tesla V100 NVLINK, masing-masing dengan memori GPU 32 GB. Setiap VM NDv2 juga memiliki 40 core Intel Xeon Platinum 8168 (Skylake) non-HyperThreaded dan memori sistem 672 GiB. Instans NDv2 memberikan performa yang sangat baik untuk beban kerja HPC dan AI yang menggunakan kernel komputasi yang dioptimalkan CUDA GPU, dan berbagai alat AI, ML, dan analitik yang mendukung akselerasi GPU 'out-of-box,' seperti TensorFlow, Pytorch, Caffe, RAPIDS, dan kerangka kerja lainnya. Yang terpenting, NDv2 dibuat untuk beban kerja peningkatan skala intens (memanfaatkan 8 GPU per VM) dan perluasan skala (memanfaatkan beberapa VM yang bekerja bersama) secara komputasi. Seri NDv2 sekarang mendukung jaringan backend InfiniBand EDR 100-Gigabit, mirip dengan yang tersedia pada seri HB VM HPC, untuk memungkinkan pengklusteran berperforma tinggi untuk skenario paralel seperti pelatihan terdistribusi untuk AI dan ML. Jaringan backend ini mendukung semua protokol InfiniBand utama, termasuk yang digunakan oleh pustaka NCCL2 NVIDIA, yang memungkinkan pengklusteran GPU yang lancar.
Lihat halaman seri NDv2 lengkap
| Bagian | Jumlah Unit Hitung |
Spesifikasi ID SKU, Unit Performa, dll. |
|---|---|---|
| Pemroses | 40vCore | Intel® Xeon® Platinum 8168 (Skylake) |
| Memori | 672GiB | |
| Disk Data | 32Disk | 80000IOPS / 800MBps |
| Jaringan | 8NIC | 24000Mbps |
| Akselerator | 8GPU | NVIDIA V100 (NVLink) 32GiB 256GiB per VM |
seri ND_A100_v4
Komputer virtual seri ND A100 v4 (VM) adalah tambahan unggulan baru untuk keluarga GPU Azure. Ini dirancang untuk pelatihan Pembelajaran Mendalam kelas atas dan meningkatkan skala dan menskalakan beban kerja HPC yang digabungkan dengan erat. Seri ND A100 v4 dimulai dengan satu VM dan delapan GPU NVIDIA Ampere A100 40GB Tensor Core. Penyebaran berbasis ND A100 v4 dapat menskalakan hingga ribuan GPU dengan bandwidth interkoneksi 1,6 TB/dtk per VM. Setiap GPU dalam VM disediakan dengan koneksi NVIDIA Mellanox HDR InfiniBand khusus, topologi-agnostik 200 GB/dtk. Koneksi ini secara otomatis dikonfigurasi antara VM yang menempati set skala mesin virtual yang sama, dan mendukung GPUDirect RDMA. Setiap GPU memiliki konektivitas NVLINK 3.0 untuk komunikasi dalam VM, dan instans didukung oleh 96 core CPU AMD Epyc™ 7V12 (Roma) generasi ke-2 fisik. Instans ini memberikan performa yang sangat baik untuk berbagai alat AI, ML, dan analitik yang mendukung akselerasi GPU 'out-of-box,' seperti TensorFlow, Pytorch, Caffe, RAPIDS, dan kerangka kerja lainnya. Selain itu, interkoneksi InfiniBand peluasan skala didukung oleh sekumpulan besar alat AI dan HPC yang ada yang dibangun di atas pustaka komunikasi NCCL2 NVIDIA untuk pengklusteran GPU yang mulus.
Lihat halaman seri ND_A100_v4 lengkap.
| Bagian | Jumlah Unit Hitung |
Spesifikasi ID SKU, Unit Performa, dll. |
|---|---|---|
| Pemroses | 96vCore | AMD Epyc™ 7V12 (Roma) |
| Memori | 900GiB | |
| Disk Data | 32Disk | 80000IOPS / 800MBps |
| Jaringan | 8 NIC | 24000Mbps |
| Akselerator | 8GPU | NVIDIA A100 (NVLink) 40GiB 320GiB per VM |
Seri NDm_A100_v4
Mesin virtual (VM) seri NDm A100 v4 adalah tambahan unggulan baru untuk keluarga GPU Azure. Ini dirancang untuk pelatihan Pembelajaran Mendalam kelas atas dan meningkatkan skala dan menskalakan beban kerja HPC yang digabungkan dengan erat. Seri NDm A100 v4 dimulai dengan satu VM dan delapan GPU NVIDIA Ampere A100 80GB Tensor Core. Penyebaran berbasis NDm A100 v4 dapat menskalakan hingga ribuan GPU dengan bandwidth interkoneksi 1,6 TB/dtk per VM. Setiap GPU dalam VM disediakan dengan koneksi NVIDIA Mellanox HDR InfiniBand khusus, topologi-agnostik 200 GB/dtk. Koneksi ini secara otomatis dikonfigurasi antara VM yang menempati set skala mesin virtual yang sama, dan mendukung GPUDirect RDMA. Setiap GPU memiliki konektivitas NVLINK 3.0 untuk komunikasi dalam VM, dan instans didukung oleh 96 core CPU AMD Epyc™ 7V12 (Roma) generasi ke-2 fisik. Instans ini memberikan performa yang sangat baik untuk berbagai alat AI, ML, dan analitik yang mendukung akselerasi GPU 'out-of-box,' seperti TensorFlow, Pytorch, Caffe, RAPIDS, dan kerangka kerja lainnya. Selain itu, interkoneksi InfiniBand peluasan skala didukung oleh sekumpulan besar alat AI dan HPC yang ada yang dibangun di atas pustaka komunikasi NCCL2 NVIDIA untuk pengklusteran GPU yang mulus.
Lihat halaman seri NDm_A100_v4 lengkap.
| Bagian | Jumlah Unit Hitung |
Spesifikasi ID SKU, Unit Performa, dll. |
|---|---|---|
| Pemroses | 96vCore | AMD Epyc™ 7V12 (Roma) |
| Memori | 900GiB | |
| Disk Data | 32Disk | 80000IOPS / 800MBps |
| Jaringan | 8NIC | 24000Mbps |
| Akselerator | 8GPU | NVIDIA A100 (NVLink) 80GiB 640GiB per VM |
seri ND_H100_v5
Mesin virtual (VM) seri ND H100 v5 adalah tambahan unggulan baru untuk keluarga GPU Azure. Ini dirancang untuk pelatihan Pembelajaran Mendalam kelas atas dan meningkatkan skala dan menskalakan beban kerja Generative AI dan HPC yang digabungkan dengan erat. Seri ND H100 v5 dimulai dengan satu VM dan delapan GPU NVIDIA H100 Tensor Core. Penyebaran berbasis ND H100 v5 dapat menskalakan hingga ribuan GPU dengan bandwidth interkoneksi 3,2 Tb/dtk per VM. Setiap GPU dalam VM disediakan dengan koneksi Khusus, topologi-agnostik 400 Gb/dtk NVIDIA Quantum-2 CX7 InfiniBand. Koneksi ini secara otomatis dikonfigurasi antara VM yang menempati set skala mesin virtual yang sama, dan mendukung GPUDirect RDMA. Setiap GPU memiliki konektivitas NVLINK 4.0 untuk komunikasi dalam VM, dan instans didukung oleh inti prosesor Intel Xeon Scalable Generasi ke-4 fisik 96. Instans ini memberikan performa yang sangat baik untuk banyak alat AI, ML, dan analitik yang mendukung akselerasi GPU 'out-of-the-box,' seperti TensorFlow, Pytorch, Caffe, RAPIDS, dan kerangka kerja lainnya. Selain itu, interkoneksi InfiniBand peluasan skala didukung oleh sekumpulan besar alat AI dan HPC yang ada yang dibangun di atas pustaka komunikasi NCCL NVIDIA untuk pengklusteran GPU yang mulus.
Lihat halaman seri ND_H100_v5 lengkap.
| Bagian | Jumlah Unit Hitung |
Spesifikasi ID SKU, Unit Performa, dll. |
|---|---|---|
| Pemroses | 96vCore | Intel® Xeon® Scalable (Sapphire Rapids) |
| Memori | 1900GiB | |
| Disk Data | 32Disk | 40800IOPS / 612MBps |
| Jaringan | 8NIC | 80000Mbps |
| Akselerator | 8GPU | NVIDIA H100 (NVLink) 80GiB 640GiB per VM |
seri ND_MI300X_v5
Mesin virtual (VM) seri ND MI300X v5 adalah tambahan unggulan baru untuk keluarga GPU Azure. Ini dirancang untuk pelatihan Pembelajaran Mendalam kelas atas dan meningkatkan skala dan menskalakan beban kerja Generative AI dan HPC yang digabungkan dengan erat.
VM seri ND MI300X v5 dimulai dengan delapan GPU AMD Instinct MI300 dan dua prosesor Intel Xeon Scalable Gen keempat untuk total 96 core fisik. Setiap GPU dalam VM kemudian terhubung satu sama lain melalui tautan Infinity Fabric AMD Gen ke-4 dengan bandwidth 128 GB/dtk per GPU dan bandwidth agregat 896 GB/dtk.
Penyebaran berbasis ND MI300X v5 dapat menskalakan hingga ribuan GPU dengan bandwidth interkoneksi 3,2 Tb/dtk per VM. Setiap GPU dalam VM disediakan dengan koneksi Khusus, topologi-agnostik 400 Gb/dtk NVIDIA Quantum-2 CX7 InfiniBand. Koneksi ini secara otomatis dikonfigurasi antara VM yang menempati set skala mesin virtual yang sama, dan mendukung GPUDirect RDMA.
Instans ini memberikan performa yang sangat baik untuk banyak alat AI, ML, dan analitik yang mendukung akselerasi GPU "out-of-the-box," seperti TensorFlow, Pytorch, dan kerangka kerja lainnya. Selain itu, interkoneksi InfiniBand peluasan skala mendukung serangkaian besar alat AI dan HPC yang ada yang dibangun di ROCm Communication Collectives Library (RCCL) AMD untuk pengklusteran GPU yang mulus.
Lihat halaman seri ND_MI300X_v5 lengkap.
| Bagian | Jumlah Unit Hitung |
Spesifikasi ID SKU, Unit Performa, dll. |
|---|---|---|
| Pemroses | 96 vCore | Intel® Xeon® Scalable (Sapphire Rapids) |
| Memori | 1850 GiB | |
| Penyimpanan Lokal | 1 Disk | 1000 GiB |
| Disk Jarak Jauh | 32 Disk | 40800 IOPS 612 MBps |
| Jaringan | 8 NIC | 80000 Mbps |
| Akselerator | 8 GPU | AMD MI300X 192 GiB 1535 GiB per VM |
Seri keluarga ND generasi sebelumnya
Untuk ukuran yang lebih lama, lihat ukuran generasi sebelumnya.
Informasi ukuran lainnya
Daftar semua ukuran yang tersedia: Ukuran
Kalkulator Harga: Kalkulator Harga
Informasi tentang Jenis Disk: Jenis Disk
Langkah berikutnya
Pelajari selengkapnya tentang cara pelajaran komputasi Azure (ACU) dapat membantu Anda membandingkan performa komputasi di seluruh SKU Azure.
Lihat Azure Dedicated Hosts untuk server fisik yang dapat menghosting satu atau beberapa komputer virtual yang ditetapkan ke satu langganan Azure.
Pelajari cara Memantau komputer virtual Azure.
Saran dan Komentar
Segera hadir: Sepanjang tahun 2024 kami akan menghentikan penggunaan GitHub Issues sebagai mekanisme umpan balik untuk konten dan menggantinya dengan sistem umpan balik baru. Untuk mengetahui informasi selengkapnya, lihat: https://aka.ms/ContentUserFeedback.
Kirim dan lihat umpan balik untuk