Bagikan melalui

Seri NCads H100 v5

  • Artikel

Berlaku untuk: ✔️ Mesin virtual Linux ✔️ Mesin virtual Windows ✔️ Set skala fleksibel ✔️ Set skala seragam

Mesin virtual (VM) seri NCads H100 v5 adalah tambahan baru untuk keluarga GPU Azure. Anda dapat menggunakan seri ini untuk pelatihan AI Terapan Azure dunia nyata dan beban kerja inferensi batch. Mesin virtual seri NCads H100 v5 didukung oleh GPU NVIDIA H100 NVL dan prosesor AMD EPYC™ Genoa generasi ke-4. VM memiliki hingga 2 GPU NVIDIA H100 NVL dengan masing-masing memori 94GB, hingga 96 core prosesor AMD EPYC Genoa non-multithreaded dan memori sistem 640 GiB. Mesin Virtual ini ideal untuk beban kerja AI Terapan di dunia nyata, seperti:

  • Analitik dan database yang dipercepat GPU
  • Inferensi batch dengan pra- dan pasca-pemrosesan yang berat
  • Pelatihan model otonomi
  • Simulasi tangki minyak dan gas
  • Pengembangan pembelajaran mesin (ML)
  • Pemrosesan video
  • Layanan web AI/Pembelajaran Mesin

Fitur yang didukung

Untuk mulai menggunakan VM NCads H100 v5, lihat Konfigurasi dan Pengoptimalan Beban Kerja HPC untuk langkah-langkah termasuk konfigurasi driver dan jaringan.

Karena peningkatan jejak I/O memori GPU, NCads H100 v5 memerlukan penggunaan VM Generasi 2 dan gambar marketplace. Harap ikuti instruksi Gambar Azure HPC untuk konfigurasi.

Ukuran vCPU Memori (GiB) Disk Sementara NVMe (GiB) GPU Memori GPU (GiB) Disk data maksimal Throughput disk maks yang tidak di-cache (IOPS/MBps) NIC maksimum/bandwidth jaringan (MBps)
Standard_NC40ads_H100_v5 40 320 3576 1 94 8 100000/3000 2/40,000
Standard_NC80adis_H100_v5 80 640 7152 2 188 16 240000/7000 4/80,000

1 1 GPU = satu kartu H100
2 Disk NVMe lokal bersifat ephemeral. Data hilang pada disk ini jika Anda menghentikan/membatalkan alokasi VM Anda. Disk NVMe lokal tidak dienkripsi oleh enkripsi Penyimpanan Azure, meskipun Anda mengaktifkan enkripsi di host.

Definisi tabel ukuran

  • Kapasitas penyimpanan ditampilkan dalam unit GiB atau 1024^3 byte. Saat membandingkan disk yang diukur dalam GB (1000^3 byte) dengan disk yang diukur dalam GiB (1024^3), ingat bahwa jumlah kapasitas yang diberikan dalam GiB mungkin tampak lebih kecil. Misalnya, 1023 GiB = 1098,4 GB.

  • Throughput disk diukur dalam operasi input/output per detik (IOPS) dan MBps di mana MBps = 10^6 byte/detik.

  • Disk data dapat beroperasi dalam mode cache atau tidak di-cache. Untuk operasi disk data cache, mode cache host diatur ke ReadOnly atau ReadWrite. Untuk operasi disk data yang tidak di-cache, mode cache host diatur ke None.

  • Untuk mempelajari cara mendapatkan performa penyimpanan terbaik untuk VM Anda, lihat Komputer virtual dan performa disk.

  • Bandwidth jaringan yang diharapkan adalah bandwidth agregat maksimum yang dialokasikan per jenis VM di semua NIC, untuk semua tujuan. Untuk informasi selengkapnya, lihat Bandwidth jaringan komputer virtual.

    Batas atas tidak dijamin. Batas menawarkan panduan untuk memilih jenis VM yang tepat untuk aplikasi yang dimaksud. Performa jaringan aktual akan tergantung pada beberapa faktor termasuk kemacetan jaringan, beban aplikasi, dan pengaturan jaringan. Untuk mengetahui informasi tentang mengoptimalkan throughput jaringan, lihat Mengoptimalkan throughput jaringan untuk komputer virtual Azure. Untuk mencapai performa jaringan yang diharapkan di Linux atau Windows, Anda mungkin perlu memilih versi tertentu atau mengoptimalkan VM Anda. Untuk mengetahui informasi selengkapnya, lihat Pengujian Bandwidth/Throughput (NTTTCP).

Ukuran serta informasi lainnya

Anda dapat menggunakan kalkulator harga untuk memperkirakan biaya Mesin Virtual Azure Anda.

Untuk mengetahui informasi selengkapnya tentang jenis disk, lihat Jenis disk apa yang tersedia di Azure?

Langkah selanjutnya