SERIA NC A100 v4

  • Artykuł

Uwaga

W tym artykule odwołuje się do systemu CentOS — dystrybucji systemu Linux, która zbliża się do stanu zakończenia życia (EOL). Rozważ odpowiednie użycie i zaplanuj. Aby uzyskać więcej informacji, zobacz wskazówki dotyczące zakończenia życia systemu CentOS.

Dotyczy: ✔️ Maszyny wirtualne z systemem Linux Maszyny ✔️ wirtualne z systemem Windows ✔️ — elastyczne zestawy ✔️ skalowania

Maszyna wirtualna z serii NC A100 v4 to nowy dodatek do rodziny procesorów GPU platformy Azure. Tej serii można używać do rzeczywistych aplikacja systemu Azure lied ai training and batch inference workloads (Trenowanie sztucznej inteligencji i wnioskowanie wsadowe).

Seria NC A100 v4 jest obsługiwana przez procesory GPU NVIDIA A100 PCIe i procesory AMD EPYC™ 7V13 (Milan). Maszyny wirtualne mają maksymalnie 4 procesory GPU NVIDIA A100 PCIe z pamięcią o pojemności 80 GB, do 96 rdzeni procesora AMD EPYC Milan i 880 GiB pamięci systemowej. Te maszyny wirtualne są idealne dla rzeczywistych obciążeń stosowanych sztucznej inteligencji, takich jak:

  • Przyspieszona analiza procesora GPU i bazy danych
  • Wnioskowanie wsadowe z dużym obciążeniem przetwarzaniem wstępnym i po przetworzeniu
  • Trenowanie modelu autonomii
  • Symulacja zbiornika ropy naftowej i gazu
  • Programowanie w usłudze Machine Learning (ML)
  • Przetwarzanie wideo
  • Usługi internetowe sztucznej inteligencji/uczenia maszynowego

Obsługiwane funkcje

Aby rozpocząć pracę z maszynami wirtualnymi NC A100 v4, zapoznaj się z tematem Konfiguracja i optymalizacja obciążenia HPC, aby zapoznać się z krokami, takimi jak konfiguracja sterownika i sieci.

Ze względu na zwiększoną ilość operacji we/wy pamięci procesora GPU nc A100 v4 wymaga użycia maszyn wirtualnych generacji 2 i obrazów platformy handlowej. Chociaż zalecane są obrazy HPC platformy Azure, obrazy azure HPC Ubuntu 20.04 i Azure HPC CentOS 7.9, RHEL 8.8, RHEL 9.2, Windows Server 2019 i Windows Server 2022 są obsługiwane.

Rozmiar Procesor wirtualny Pamięć (GiB) Dysktymczasowy 1 (GiB) DyskiNVMe 2 Procesor GPU3 Pamięć procesora GPU (GiB) Maks. liczba dysków danych Maksymalna przepływność dysku bez buforowania (liczba operacji we/wy na sekundę/MB/s) Maksymalna przepustowość kart sieciowych/sieci (MB/s)
Standard_NC24ads_A100_v4 24 220 64 960 GB 1 80 8 30000/1000 2/20,000
Standard_NC48ads_A100_v4 48 440 128 2x960 GB 2 160 16 60000/2000 4/40,000
Standard_NC96ads_A100_v4 96 880 256 4x960 GB 100 320 32 120000/4000 8/80,000

1 Maszyny wirtualne z serii NC A100 v4 mają standardowy dysk zasobów tymczasowych oparty na protokole SCSI na potrzeby użycia plików stronicowania/wymiany systemu operacyjnego. Dzięki temu dyski NVMe mogą być w pełni dedykowane do użycia przez aplikację. Ten dysk jest efemeryczny, a wszystkie dane zostaną utracone przy zatrzymaniu/cofnięciu przydziału.

2 Lokalne dyski NVMe są efemeryczne, dane zostaną utracone na tych dyskach, jeśli zatrzymasz/cofniesz przydział maszyny wirtualnej. Lokalny dysk NVMe jest przychodzący jako pamięć RAM i musi zostać ręcznie sformatowany na nowo wdrożonej maszynie wirtualnej.

31 procesor GPU = jedna karta PROCESORA GPU A100 80 GB

Definicje tabel rozmiaru

  • Pojemność magazynu jest podawana w jednostkach GiB (1024^3 bajtów). Podczas porównywania dysków mierzonych w GB (1000^3 bajtów) z dyskami mierzonymi w GiB (1024^3) pamiętaj, że liczby pojemności podane w GiB mogą wydawać się mniejsze. Na przykład 1023 GiB = 1098,4 GB.

  • Przepływność dysku mierzona jest jako liczba operacji wejścia/wyjścia na sekundę i MB/s, gdzie 1 MB/s = 10^6 bajtów/s.

  • Dyski danych mogą działać w trybie buforowanym lub niebuforowanym. Dla pracy dysku danych w trybie buforowanym tryb pamięci podręcznej hosta jest ustawiony na wartość ReadOnly lub ReadWrite. Dla pracy dysku danych bez buforowania tryb pamięci podręcznej hosta jest ustawiony na wartość None.

  • Aby dowiedzieć się, jak uzyskać najlepszą wydajność magazynu dla maszyn wirtualnych, zobacz Wydajność maszyny wirtualnej i dysku.

  • Oczekiwana przepustowość sieci to maksymalna zagregowana przepustowość przydzielona na typ maszyny wirtualnej dla wszystkich kart sieciowych dla wszystkich miejsc docelowych. Aby uzyskać więcej informacji, zobacz Przepustowość sieci maszyny wirtualnej.

    Górne limity nie są gwarantowane. Wskazówki dotyczące ofert limitów dotyczące wybierania odpowiedniego typu maszyny wirtualnej dla zamierzonej aplikacji. Rzeczywista wydajność sieci zależy od kilku czynników, w tym przeciążenia sieci, obciążeń aplikacji i ustawień sieci. Aby uzyskać informacje na temat optymalizowania przepływności sieci, zobacz Optymalizowanie przepływności sieci dla maszyn wirtualnych platformy Azure. Aby osiągnąć oczekiwaną wydajność sieci w systemie Linux lub Windows, może być konieczne wybranie określonej wersji lub zoptymalizowanie maszyny wirtualnej. Aby uzyskać więcej informacji, zobacz Testowanie przepustowości/przepływności (NTTTCP).

Inne rozmiary i informacje

Kalkulator cen umożliwia oszacowanie kosztów maszyn wirtualnych platformy Azure.

Aby uzyskać więcej informacji na temat typów dysków, zobacz Jakie typy dysków są dostępne na platformie Azure?

Następny krok