Seria rozmiarów ND-MI300X-v5

Maszyna wirtualna z serii ND MI300X v5 to nowy flagowy dodatek do rodziny procesorów GPU platformy Azure. Został zaprojektowany do trenowania zaawansowanego uczenia głębokiego oraz do ściśle współpracujących, skalujących się pionowo i poziomo obciążeń AI generatywnej i obliczeń HPC.

Konfiguracja maszyny wirtualnej z serii ND MI300X v5 zaczyna się od ośmiu GPU AMD Instinct MI300 i dwóch procesorów Intel Xeon Scalable czwartej generacji, co daje w sumie 96 rdzeni fizycznych. Każdy procesor GPU na maszynie wirtualnej jest następnie połączony ze sobą za pośrednictwem linków 4th-Gen AMD Infinity Fabric z przepustowością 128 GB/s na procesor GPU i 896 GB/s zagregowanej przepustowości.

Wdrożenia bazujące na ND MI300X v5 mogą skalować się do tysięcy GPU z przepustowością połączenia do 3,2 Tb/s na maszynę wirtualną. Każdy procesor GPU na maszynie wirtualnej jest dostarczany z własnym dedykowanym, niezależnym od topologii połączeniem NVIDIA Quantum-2 CX7 InfiniBand o pojemności 400 Gb/s. Te połączenia są automatycznie konfigurowane między maszynami wirtualnymi zajmującymi ten sam zestaw skalowania maszyn wirtualnych i obsługują funkcję GPUDirect RDMA.

Te instancje zapewniają doskonałą wydajność dla wielu narzędzi do sztucznej inteligencji, uczenia maszynowego i analizy, które obsługują przyspieszenie GPU od razu po instalacji, takie jak TensorFlow, Pytorch i inne frameworki. Ponadto połączenie InfiniBand skalowalne obsługuje duży zestaw istniejących narzędzi sztucznej inteligencji i HPC opartych na bibliotece ROCm Communication Collectives Library (RCCL) firmy AMD w celu bezproblemowego łączenia klastrów procesorów GPU.

Specyfikacje hosta

Element	Ilość Liczba jednostek	Specyfikacje Identyfikator jednostki SKU, jednostki wydajności itp.
Procesor	96 procesorów wirtualnych	Intel Xeon (Sapphire Rapids) [x86-64]
Pamięć	1850 GiB
Magazyn lokalny	Dysk tymczasowy 1 8 dysków NVMe	Dysk tymczasowy 1000 GiB Dyski NVMe 28000 GiB
Przechowywanie zdalne	16 dysków	80000 IOPS (operacji we/wy na sekundę) 1200 MB/s
Sieć	8 kart sieciowych
Akceleratory	8 procesorów GPU	GPU AMD Instinct MI300X (192 GB)

Obsługa funkcji

Premium Storage: obsługiwane
Buforowanie Premium Storage: obsługiwane
Live Migration (przenoszenie na żywo): nieobsługiwana
Zachowywanie pamięci aktualizacji: nieobsługiwane
Maszyny wirtualne generacji 2: obsługiwane
Maszyny wirtualne generacji 1: nieobsługiwane
Przyspieszona sieć: obsługiwana
Dysk tymczasowy systemu operacyjnego: obsługiwany
Zagnieżdżona Wirtualizacja: niewspierana

Rozmiary w serii

Podstawy

Procesory wirtualne (Qty.) i Pamięć dla każdego rozmiaru

Nazwa rozmiaru	vCPU (Liczba)	Pamięć (GB)
Standard_ND96isr_MI300X_v5	96	1850

Zasoby podstawowe maszyny wirtualnej

• Sprawdzanie przydziałów procesorów wirtualnych

Magazyn lokalny

Informacje o lokalnym magazynowaniu (tymczasowym) dla każdego rozmiaru

Nazwa rozmiaru	Maksymalna liczba dysków magazynu tymczasowego (Qty).	Rozmiar dysku tymczasowego (GiB)	Maksymalna liczba dysków NVMe (Qty).	Rozmiar dysku NVMe (TiB)
Standard_ND96isr_MI300X_v5	1	1000	8	28

Zasoby magazynu

• Wprowadzenie do dysków zarządzanych na platformie Azure
• Typy dysków zarządzanych platformy Azure
• Udostępnianie dysku zarządzanego platformy Azure

Definicje tabel

• ¹Szybkość dysku tymczasowego często różni się między operacjami RR (odczyt losowy) i RW (losowy zapis). Operacje RR są zwykle szybsze niż operacje RW. Prędkość RW jest zwykle wolniejsza niż prędkość RR w serii, w której jest wymieniona tylko wartość prędkości RR.
• Pojemność pamięci jest podawana w jednostkach GiB lub 1024^3 bajtów. Podczas porównywania dysków mierzonych w GB (1000^3 bajtów) z dyskami mierzonymi w GiB (1024^3) pamiętaj, że liczby pojemności podane w GiB mogą wydawać się mniejsze. Na przykład 1023 GiB = 1098,4 GB.
• Przepływność dysku mierzona jest jako liczba operacji wejścia/wyjścia na sekundę i MB/s, gdzie 1 MB/s = 10^6 bajtów/s.
• Aby dowiedzieć się, jak uzyskać najlepszą wydajność magazynu dla maszyn wirtualnych, zobacz Wydajność maszyny wirtualnej i dysku.

Zdalne przechowywanie

Informacje o zdalnej pamięci niebuforowanej dla każdego rozmiaru

Nazwa rozmiaru	Maksymalna liczba dysków magazynu zdalnego (Qty).	Niebuforowane operacje we/wy dysku na sekundę	Szybkość dysku niebuforowanego (MB/s)
Standard_ND96isr_MI300X_v5	16	80000	1200

Zasoby magazynu

• Wprowadzenie do dysków zarządzanych na platformie Azure
• Typy dysków zarządzanych platformy Azure
• Udostępnianie dysku zarządzanego platformy Azure

Definicje tabel

• ¹Niektóre rozmiary obsługują zwiększanie szybkości, aby tymczasowo zwiększyć wydajność dysku. Szybkość serii może być utrzymywana przez maksymalnie 30 minut naraz.
• ²Magazyn specjalny odnosi się do magazynu SSD w warstwie Ultra lub Premium w wersji 2 .
• Pojemność pamięci jest podawana w jednostkach GiB lub 1024^3 bajtów. Podczas porównywania dysków mierzonych w GB (1000^3 bajtów) z dyskami mierzonymi w GiB (1024^3) pamiętaj, że liczby pojemności podane w GiB mogą wydawać się mniejsze. Na przykład 1023 GiB = 1098,4 GB.
• Przepływność dysku mierzona jest jako liczba operacji wejścia/wyjścia na sekundę i MB/s, gdzie 1 MB/s = 10^6 bajtów/s.
• Dyski danych mogą działać w trybie buforowanym lub niebuforowanym. Dla pracy dysku danych w trybie buforowanym tryb pamięci podręcznej hosta jest ustawiony na wartość ReadOnly lub ReadWrite. Dla pracy dysku danych bez buforowania tryb pamięci podręcznej hosta jest ustawiony na wartość None.
• Aby dowiedzieć się, jak uzyskać najlepszą wydajność magazynu dla maszyn wirtualnych, zobacz Wydajność maszyny wirtualnej i dysku.

Sieć

Informacje o interfejsie sieciowym dla każdego rozmiaru

Nazwa rozmiaru	Maksymalna liczba kart sieciowych (Qty).	Maksymalna przepustowość (Mb/s)
Standard_ND96isr_MI300X_v5	8	80000

Zasoby sieciowe

• Sieci wirtualne i maszyny wirtualne na platformie Azure
• Przepustowość sieci maszyny wirtualnej

Definicje tabel

• Oczekiwana przepustowość sieci to maksymalna zagregowana przepustowość przydzielona na typ maszyny wirtualnej dla wszystkich kart sieciowych dla wszystkich miejsc docelowych. Aby uzyskać więcej informacji, zobacz Przepustowość sieci maszyny wirtualnej
• Górne limity nie są gwarantowane. Wskazówki dotyczące ofert limitów dotyczące wybierania odpowiedniego typu maszyny wirtualnej dla zamierzonej aplikacji. Rzeczywista wydajność sieci zależy od kilku czynników, w tym przeciążenia sieci, obciążeń aplikacji i ustawień sieci. Aby uzyskać informacje na temat optymalizowania przepływności sieci, zobacz Optymalizowanie przepływności sieci dla maszyn wirtualnych platformy Azure.
• Aby osiągnąć oczekiwaną wydajność sieci w systemie Linux lub Windows, może być konieczne wybranie określonej wersji lub zoptymalizowanie maszyny wirtualnej. Aby uzyskać więcej informacji, zobacz Testowanie przepustowości/przepływności (NTTTCP).

Akceleratory

Informacje o akceleratorze (procesory GPU, układy FPGA itp.) dla każdego rozmiaru

Nazwa rozmiaru	Akceleratory (Qty.)	Pamięć akceleratora (GB)
Standard_ND96isr_MI300X_v5	8	1535

Inne informacje o rozmiarze

Lista wszystkich dostępnych rozmiarów: rozmiary

Kalkulator cen: Kalkulator cen

Informacje o typach dysków: Typy dysków

Następne kroki

Korzystaj z najnowszych funkcji i wydajności dostępnych dla obciążeń, zmieniając rozmiar maszyny wirtualnej.

Korzystaj z procesorów ARM zaprojektowanych przez firmę Microsoft w maszynach wirtualnych Azure Cobalt.

Dowiedz się, jak monitorować maszyny wirtualne platformy Azure.