Seri NC A100 v4

  • Artikel

Perhatian

Artikel ini mereferensikan CentOS, distribusi Linux yang mendekati status End Of Life (EOL). Harap pertimbangkan penggunaan dan rencanakan yang sesuai. Untuk informasi selengkapnya, lihat panduan Akhir Masa Pakai CentOS.

Berlaku untuk: ✔️ Mesin virtual Linux ✔️ Mesin virtual Windows ✔️ Set skala fleksibel ✔️ Set skala seragam

Mesin virtual (VM) seri NC A100 v4 adalah tambahan baru untuk keluarga GPU Azure. Anda dapat menggunakan seri ini untuk pelatihan AI Terapan Azure dunia nyata dan beban kerja inferensi batch.

Seri NC A100 v4 didukung oleh GPU PCIe NVIDIA A100 dan prosesor AMD EPYC™ 7V13 (Milan) generasi ketiga. VM ini memiliki hingga 4 GPU PCIe NVIDIA A100 dengan masing-masing memori 80 GB, hingga 96 core prosesor AMD EPYC Milan non-multithreaded dan memori sistem 880 GiB. Mesin Virtual ini ideal untuk beban kerja AI Terapan di dunia nyata, seperti:

  • Analitik dan database yang dipercepat GPU
  • Inferensi batch dengan pra- dan pasca-pemrosesan yang berat
  • Pelatihan model otonomi
  • Simulasi tangki minyak dan gas
  • Pengembangan pembelajaran mesin (ML)
  • Pemrosesan video
  • Layanan web AI/Pembelajaran Mesin

Fitur yang didukung

Untuk memulai Mesin Virtual NC A100 v4, lihat Konfigurasi dan Pengoptimalan Beban Kerja HPC untuk langkah-langkah termasuk driver dan konfigurasi jaringan.

Karena peningkatan jejak I/O memori GPU, NC A100 v4 memerlukan penggunaan Mesin Virtual Generasi 2 dan gambar marketplace. Meskipun gambar Azure HPC direkomendasikan, gambar Azure HPC Ubuntu 20.04 dan Azure HPC CentOS 7.9, RHEL 8.8, RHEL 9.2, Windows Server 2019, dan Windows Server 2022 didukung.

Ukuran vCPU Memori (GiB) DiskSementara 1 (GiB) NVMe Disks2 GPU3 Memori GPU (GiB) Disk data maksimal Throughput disk maks yang tidak di-cache (IOPS/MBps) NIC maksimum/bandwidth jaringan (MBps)
Standard_NC24ads_A100_v4 24 220 64 960 GB 1 80 8 30000/1000 2/20,000
Standard_NC48ads_A100_v4 48 440 128 2x960 GB 2 160 16 60000/2000 4/40,000
Standard_NC96ads_A100_v4 96 880 256 4x960 GB 4 320 32 120000/4000 8/80,000

1 VM seri NC A100 v4 memiliki disk sumber daya sementara berbasis SCSI standar untuk penggunaan file paging/swap OS. Ini memastikan drive NVMe dapat sepenuhnya didedikasikan untuk penggunaan aplikasi. Disk ini bersifat Sementara, dan semua data akan hilang saat menghentikan/membatalkan.

2 Disk NVMe lokal bersifat sementara, data akan hilang pada disk ini jika Anda menghentikan/membatalkan alokasi mesin virtual Anda. Disk NVMe lokal hadir sebagai RAM dan perlu diformat secara manual di VM yang baru disebarkan.

31 GPU = satu kartu GPU PCIe A100 80GB

Definisi tabel ukuran

  • Kapasitas penyimpanan ditampilkan dalam unit GiB atau 1024^3 byte. Saat membandingkan disk yang diukur dalam GB (1000^3 byte) dengan disk yang diukur dalam GiB (1024^3), ingat bahwa jumlah kapasitas yang diberikan dalam GiB mungkin tampak lebih kecil. Misalnya, 1023 GiB = 1098,4 GB.

  • Throughput disk diukur dalam operasi input/output per detik (IOPS) dan MBps di mana MBps = 10^6 byte/detik.

  • Disk data dapat beroperasi dalam mode cache atau tidak di-cache. Untuk operasi disk data cache, mode cache host diatur ke ReadOnly atau ReadWrite. Untuk operasi disk data yang tidak di-cache, mode cache host diatur ke None.

  • Untuk mempelajari cara mendapatkan performa penyimpanan terbaik untuk VM Anda, lihat Komputer virtual dan performa disk.

  • Bandwidth jaringan yang diharapkan adalah bandwidth agregat maksimum yang dialokasikan per jenis VM di semua NIC, untuk semua tujuan. Untuk informasi selengkapnya, lihat Bandwidth jaringan komputer virtual.

    Batas atas tidak dijamin. Batas menawarkan panduan untuk memilih jenis VM yang tepat untuk aplikasi yang dimaksud. Performa jaringan aktual akan tergantung pada beberapa faktor termasuk kemacetan jaringan, beban aplikasi, dan pengaturan jaringan. Untuk mengetahui informasi tentang mengoptimalkan throughput jaringan, lihat Mengoptimalkan throughput jaringan untuk komputer virtual Azure. Untuk mencapai performa jaringan yang diharapkan di Linux atau Windows, Anda mungkin perlu memilih versi tertentu atau mengoptimalkan VM Anda. Untuk mengetahui informasi selengkapnya, lihat Pengujian Bandwidth/Throughput (NTTTCP).

Ukuran serta informasi lainnya

Anda dapat menggunakan kalkulator harga untuk memperkirakan biaya Mesin Virtual Azure Anda.

Untuk mengetahui informasi selengkapnya tentang jenis disk, lihat Jenis disk apa yang tersedia di Azure?

Langkah selanjutnya