Aracılığıyla paylaş

NCads H100 v5 serisi

  • Makale

Şunlar için geçerlidir: ✔️ Linux VM'leri ✔️ Windows VM'leri ✔️ Esnek ölçek kümeleri ✔️ Tekdüzen ölçek kümeleri

NCads H100 v5 serisi sanal makineler (VM) Azure GPU ailesine yeni bir ektir. Bu seriyi gerçek dünya Azure Uygulaması yapay zeka eğitimi ve toplu çıkarım iş yükleri için kullanabilirsiniz. NCads H100 v5 serisi sanal makineler NVIDIA H100 NVL GPU ve 4. nesil AMD EPYC™ Genoa işlemcilerle desteklenir. VM'ler her biri 94 GB belleğe sahip 2 adet NVIDIA H100 NVL GPU'ya, 96 adede kadar çok iş parçacıklı olmayan AMD EPYC Genoa işlemci çekirdeğine ve 640 GiB sistem belleğine sahiptir. Bu VM'ler aşağıdakiler gibi gerçek dünyada uygulanan yapay zeka iş yükleri için idealdir:

  • GPU hızlandırmalı analiz ve veritabanları
  • Yoğun ön ve son işleme ile toplu çıkarım
  • Özerklik modeli eğitimi
  • Petrol ve gaz rezervuar simülasyonu
  • Makine öğrenmesi (ML) geliştirme
  • Video işleme
  • AI/ML web hizmetleri

Desteklenen özellikler

NCads H100 v5 VM'lerini kullanmaya başlamak için, sürücü ve ağ yapılandırması da dahil olmak üzere adımlar için HPC İş Yükü Yapılandırması ve İyileştirme bölümüne bakın.

Artan GPU bellek G/Ç ayak izi nedeniyle NCads H100 v5, 2. Nesil VM'lerin ve market görüntülerinin kullanılmasını gerektirir. Yapılandırma için lütfen Azure HPC görüntülerinin yönergelerini izleyin.

Size Sanal işlemci Bellek (GiB) Geçici Disk NVMe (GiB) GPU GPU Belleği (GiB) Maksimum veri diskleri En fazla kazınmamış disk aktarım hızı (IOPS / MB/sn) En Fazla NIC/ağ bant genişliği (MB/sn)
Standard_NC40ads_H100_v5 40 320 3576 1 94 8 100000/3000 2/40,000
Standard_NC80adis_H100_v5 80 640 7152 2 188 16 240000/7000 4/80,000

1 1 GPU = bir H100 kart
2 Yerel NVMe diskleri kısa ömürlü. VM'nizi durdurur/serbest bırakırsanız bu disklerdeki veriler kaybolur. Konakta şifrelemeyi etkinleştirseniz bile yerel NVMe diskleri Azure Depolama şifrelemesi ile şifrelenmez.

Boyut tablosu tanımları

  • Depolama kapasitesi GiB veya 1024^3 bayt cinsinden gösterilmiştir. GB (1000^3 bayt) olarak ölçülen diskleri GiB (1024^3) cinsinden ölçülen disklerle karşılaştırdığınızda, GiB cinsinden verilen kapasite numaralarının daha küçük görünebileceğini unutmayın. Örneğin, 1023 GiB = 1098,4 GB.

  • Disk aktarım hızı, saniye başına giriş/çıkış işlemi sayısı (IOPS) ve MB/sn (MB/sn = 10^6 bayt/sn) üzerinden ölçülür.

  • Veri diskleri önbelleğe alınmış veya alınmamış modlarda çalışabilir. Önbelleğe alınmış veri diski işlemi için ana bilgisayar önbelleği SaltOkunur veya OkuYaz moduna ayarlanır. Önbelleğe alınmamış veri diski işlemi için ana bilgisayar önbelleği Yok moduna ayarlanır.

  • VM'leriniz için en iyi depolama performansını elde etmeyi öğrenmek için bkz . Sanal makine ve disk performansı.

  • Beklenen ağ bant genişliği , tüm hedefler için tüm NIC'ler genelinde VM türü başına ayrılan maksimum toplam bant genişliğidir. Daha fazla bilgi için bkz . Sanal makine ağ bant genişliği.

    Üst sınırlar garanti değildir. Sınırlar, hedeflenen uygulama için doğru VM türünü seçmeye yönelik rehberlik sunar. Gerçek ağ performansı, ağ tıkanıklığı, uygulama yükleri ve ağ ayarları gibi çeşitli faktörlere bağlıdır. Ağ aktarım hızını iyileştirme hakkında bilgi için bkz . Azure sanal makineleri için ağ aktarım hızını iyileştirme. Linux veya Windows'ta beklenen ağ performansını elde etmek için belirli bir sürümü seçmeniz veya VM'nizi iyileştirmeniz gerekebilir. Daha fazla bilgi için bkz . Bant genişliği/aktarım hızı testi (NTTTCP).

Diğer boyutlar ve bilgiler

Azure VM'lerinizin maliyetlerini tahmin etmek için fiyatlandırma hesaplayıcısını kullanabilirsiniz.

Disk türleri hakkında daha fazla bilgi için bkz. Azure'da hangi disk türleri kullanılabilir?

Sonraki adım