Udostępnij za pośrednictwem

NCads serii H100 v5

Dotyczy: ✔️ Maszyny wirtualne z systemem Linux ✔️ Maszyny wirtualne z systemem Windows ✔️ Elastyczne zestawy skalowania ✔️ Jednolite zestawy skalowania

Maszyny wirtualne serii NCads H100 v5 to nowy dodatek do rodziny procesorów GPU platformy Azure. Można użyć tej serii do szkoleń z zakresu stosowania AI w Azure oraz obciążeń związanych z wnioskowaniem wsadowym w rzeczywistych warunkach. Maszyny wirtualne serii NCads H100 v5 są obsługiwane przez procesory GPU NVIDIA H100 NVL i procesory AMD EPYC™ Genu drugiej generacji. Maszyny wirtualne mają maksymalnie 2 procesory GPU NVIDIA H100 NVL z pamięcią po 94 GB każdy, do 96 rdzeni procesorów AMD EPYC Genoa bez obsługi wielowątkowości oraz 640 GiB pamięci operacyjnej. Te maszyny wirtualne są idealne dla rzeczywistych obciążeń stosowanych sztucznej inteligencji, takich jak:

  • Przyspieszona analiza procesora GPU i bazy danych
  • Wnioskowanie wsadowe z intensywnym przetwarzaniem wstępnym i końcowym.
  • Trenowanie modelu autonomii
  • Symulacja zbiornika ropy naftowej i gazu
  • Rozwój uczenia maszynowego (ML)
  • Przetwarzanie wideo
  • Usługi internetowe sztucznej inteligencji/uczenia maszynowego

Obsługiwane funkcje

Aby rozpocząć pracę z maszynami wirtualnymi NCads H100 v5, zapoznaj się z tematem Konfiguracja i optymalizacja obciążenia HPC, aby zapoznać się z krokami, takimi jak konfiguracja sterownika i sieci.

Ze względu na zwiększoną intensywność operacji we/wy pamięci procesora GPU, NCads H100 v5 wymaga użycia maszyn wirtualnych generacji 2 i obrazów z platformy handlowej. Postępuj zgodnie z instrukcją Azure HPC images w celu konfiguracji.

Rozmiar Procesor wirtualny Pamięć (GiB) Dysk tymczasowy NVMe (GiB) Procesor GPU Pamięć procesora GPU (GiB) Maks. liczba dysków danych Maksymalna przepustowość dysku bez buforowania (IOPS/MB/s) Maksymalna przepustowość kart interfejsu sieciowego/sieci (MBps)
Standard_NC40ads_H100_v5 40 320 3576 1 94 8 100000/3000 2/40,000
Standard_NC80adis_H100_v5 80 640 7152 2 188 16 240000/7000 4/80,000

1 1 GPU = jedna karta H100
2 Lokalne dyski NVMe są nietrwałe. Dane zostaną utracone na tych dyskach, jeśli zatrzymasz/cofniesz przydział maszyny wirtualnej. Lokalne dyski NVMe nie są szyfrowane za pomocą szyfrowania usługi Azure Storage, nawet jeśli włączono szyfrowanie na hoście.

Definicje tabel rozmiarów

  • Pojemność pamięci jest podawana w jednostkach GiB lub 1024^3 bajtów. Podczas porównywania dysków mierzonych w GB (1000^3 bajtów) z dyskami mierzonymi w GiB (1024^3) pamiętaj, że liczby pojemności podane w GiB mogą wydawać się mniejsze. Na przykład 1023 GiB = 1098,4 GB.

  • Przepływność dysku mierzona jest jako liczba operacji wejścia/wyjścia na sekundę i MB/s, gdzie 1 MB/s = 10^6 bajtów/s.

  • Dyski danych mogą działać w trybie buforowanym lub niebuforowanym. Dla operacji na buforowanym dysku danych tryb pamięci podręcznej hosta jest ustawiony na wartość ReadOnly lub ReadWrite. Dla operacji dysku danych bez buforowania tryb pamięci podręcznej hosta jest ustawiony na None.

  • Aby dowiedzieć się, jak uzyskać najlepszą wydajność przechowywania dla maszyn wirtualnych, zobacz Wydajność maszyny wirtualnej i dysku.

  • Oczekiwana przepustowość sieci to maksymalna zagregowana przepustowość przydzielona na każdy typ maszyny wirtualnej, przez wszystkie karty sieciowe, do wszystkich miejsc docelowych. Aby uzyskać więcej informacji, zobacz Przepustowość sieci maszyny wirtualnej.

    Górne limity nie są gwarantowane. Limity oferują wskazówki dotyczące wyboru odpowiedniego typu maszyny wirtualnej dla zamierzonej aplikacji. Rzeczywista wydajność sieci zależy od kilku czynników, w tym przeciążenia sieci, obciążeń aplikacji i ustawień sieci. Aby uzyskać informacje na temat optymalizowania przepustowości sieci, zobacz Optymalizowanie przepustowości sieci dla maszyn wirtualnych w Azure. Aby osiągnąć oczekiwaną wydajność sieci w systemie Linux lub Windows, może być konieczne wybranie określonej wersji lub zoptymalizowanie maszyny wirtualnej. Aby uzyskać więcej informacji, zobacz Testowanie przepustowości/przepływności (NTTTCP).

Inne rozmiary i informacje

Możesz skorzystać z kalkulatora cen, aby oszacować koszty maszyn wirtualnych platformy Azure.

Aby uzyskać więcej informacji na temat typów dysków, zobacz Jakie typy dysków są dostępne na platformie Azure?

Następny krok