Komputer virtual seri NDv2 adalah tambahan baru untuk keluarga GPU yang dirancang untuk kebutuhan beban kerja AI yang dipercepat GPU, pembelajaran mesin, simulasi, dan HPC yang paling banyak diminta.
NDv2 didukung oleh 8 GPU yang terhubung NVIDIA Tesla V100 NVLINK, masing-masing dengan memori GPU 32 GB. Setiap VM NDv2 juga memiliki 40 core Intel Xeon Platinum 8168 (Skylake) non-HyperThreaded dan memori sistem 672 GiB.
Instans NDv2 memberikan performa yang sangat baik untuk beban kerja HPC dan AI yang menggunakan kernel komputasi yang dioptimalkan CUDA GPU, dan berbagai alat AI, ML, dan analitik yang mendukung akselerasi GPU 'out-of-box,' seperti TensorFlow, Pytorch, Caffe, RAPIDS, dan kerangka kerja lainnya.
Yang terpenting, NDv2 dibuat untuk beban kerja peningkatan skala intens (memanfaatkan 8 GPU per VM) dan perluasan skala (memanfaatkan beberapa VM yang bekerja bersama) secara komputasi. Seri NDv2 sekarang mendukung jaringan backend InfiniBand EDR 100-Gigabit, mirip dengan yang tersedia pada seri HB VM HPC, untuk memungkinkan pengklusteran berperforma tinggi untuk skenario paralel seperti pelatihan terdistribusi untuk AI dan ML. Jaringan backend ini mendukung semua protokol InfiniBand utama, termasuk yang digunakan oleh pustaka NCCL2 NVIDIA, yang memungkinkan pengklusteran GPU yang lancar.
Spesifikasi host
Bagian
Jumlah Unit Hitung
Spesifikasi ID SKU, Unit Performa, dll.
Pemroses
40 vCPU
Intel Xeon Platinum 8168 (Skylake) [x86-64]
Memori
672 GiB
Penyimpanan Lokal
1 Disk
2948 GiB
Penyimpanan Jarak Jauh
32 Disk
80000 IOPS 800 MBps
Jaringan
8 NIC
24000 Mbps
Akselerator
Tidak
Dukungan fitur
Penyimpanan Premium: Didukung Penembolokan Penyimpanan Premium: Didukung Migrasi Langsung: Tidak Didukung Pembaruan Yang Mempertahankan Memori: Tidak Didukung VM Generasi 2: Didukung VM Generasi 1: Tidak Didukung Jaringan Terakselerasi: Didukung Disk OS Ephemeral: Didukung Virtualisasi Berlapis: Tidak Didukung
1Kecepatan disk sementara sering berbeda antara operasi RR (Pembacaan Acak) dan RW (Tulis Acak). Operasi RR biasanya lebih cepat daripada operasi RW. Kecepatan RW biasanya lebih lambat daripada kecepatan RR pada seri di mana hanya nilai kecepatan RR yang tercantum.
Kapasitas penyimpanan ditampilkan dalam unit GiB atau 1024^3 byte. Saat membandingkan disk yang diukur dalam GB (1000^3 byte) dengan disk yang diukur dalam GiB (1024^3), ingat bahwa jumlah kapasitas yang diberikan dalam GiB mungkin tampak lebih kecil. Misalnya, 1023 GiB = 1098,4 GB.
Throughput disk diukur dalam operasi input/output per detik (IOPS) dan MBps di mana MBps = 10^6 byte/detik.
1Beberapa ukuran mendukung bursting untuk meningkatkan performa disk untuk sementara waktu. Kecepatan ledakan dapat dipertahankan hingga 30 menit pada satu waktu.
Kapasitas penyimpanan ditampilkan dalam unit GiB atau 1024^3 byte. Saat membandingkan disk yang diukur dalam GB (1000^3 byte) dengan disk yang diukur dalam GiB (1024^3), ingat bahwa jumlah kapasitas yang diberikan dalam GiB mungkin tampak lebih kecil. Misalnya, 1023 GiB = 1098,4 GB.
Throughput disk diukur dalam operasi input/output per detik (IOPS) dan MBps di mana MBps = 10^6 byte/detik.
Disk data dapat beroperasi dalam mode cache atau tidak di-cache. Untuk operasi disk data cache, mode cache host diatur ke ReadOnly atau ReadWrite. Untuk operasi disk data yang tidak di-cache, mode cache host diatur ke None.
Bandwidth jaringan yang diharapkan adalah bandwidth agregat maksimum yang dialokasikan per jenis VM di semua NIC, untuk semua tujuan. Untuk informasi selengkapnya, lihat Bandwidth jaringan komputer virtual
Batas atas tidak dijamin. Batas menawarkan panduan untuk memilih jenis VM yang tepat untuk aplikasi yang dimaksud. Performa jaringan aktual akan tergantung pada beberapa faktor termasuk kemacetan jaringan, beban aplikasi, dan pengaturan jaringan. Untuk mengetahui informasi tentang mengoptimalkan throughput jaringan, lihat Mengoptimalkan throughput jaringan untuk komputer virtual Azure.
Untuk mencapai performa jaringan yang diharapkan di Linux atau Windows, Anda mungkin perlu memilih versi tertentu atau mengoptimalkan VM Anda. Untuk mengetahui informasi selengkapnya, lihat Pengujian Bandwidth/Throughput (NTTTCP).
Info Akselerator (GPU, FPGA, dll.) untuk setiap ukuran