ND MI300X v5 sorozat
A következőkre vonatkozik: ✔️ Linux rendszerű virtuális gépek ✔️ Rugalmas méretezési csoportok ✔️ Egységes méretezési csoportok
Az ND MI300X v5 sorozatú virtuális gép (VM) az Azure GPU-család új zászlóshajója. Csúcskategóriás mélytanulási képzésekhez, valamint szorosan összekapcsolt generatív AI- és HPC-számítási feladatokhoz lett tervezve.
Az ND MI300X v5 sorozatú virtuális gép nyolc AMD Instinct MI300 GPU-val és két negyedik Generációs Intel Xeon skálázható processzorral indul összesen 96 fizikai maghoz. A virtuális gépen belüli gpu-k ezután 4. generációs AMD Infinity Fabric-kapcsolatokon keresztül csatlakoznak egymáshoz, GPU-nként 128 GB/s sávszélességgel és 896 GB/s összesített sávszélességgel.
Az ND MI300X v5-alapú üzemelő példányok akár több ezer GPU-ra is felskálázhatók, virtuális gépenként 3,2 Tb/s kapcsolati sávszélességgel. A virtuális gépen belül minden GPU saját dedikált, topológia-agnosztikus 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand kapcsolattal rendelkezik. Ezek a kapcsolatok automatikusan konfigurálva vannak az azonos virtuálisgép-méretezési csoportot használó virtuális gépek között, és támogatják a GPUDirect RDMA-t.
Ezek a példányok kiváló teljesítményt nyújtanak számos olyan AI-, ML- és elemzési eszközhöz, amelyek támogatják a GPU-gyorsítást a "házon kívül", például a TensorFlow, a Pytorch és más keretrendszerek esetében. Emellett a kibővített InfiniBand-összekapcsolás számos meglévő AI- és HPC-eszközt támogat, amelyek az AMD ROCm Communication Collectives Library (RCCL) eszközkészletére épülnek a GPU-k zökkenőmentes fürtözése érdekében.
Gazdagép-specifikációk
Rész | Mennyiség Egységek száma |
Szemüveg Termékváltozat azonosítója, teljesítményegységek stb. |
---|---|---|
Adatfeldolgozó | 96 virtuális mag | Intel® Xeon® skálázható (Sapphire Rapids) |
Memory (Memória) | 1850 GiB | |
Helyi tároló | 1 Lemez | 1000 GiB |
Távoli lemezek | 32 Lemezek | 40800 IOPS 612 MBps |
Network (Hálózat) | 8 hálózati adapter | 80000 Mb/s |
Gyorssegédek | 8 GPU | AMD MI300X 192 GiB 1535 GiB virtuális gépenként |
Szolgáltatások támogatása
Premium Storage: Támogatott
Premium Storage-gyorsítótárazás: Támogatott
Ultralemez: Támogatott További információ a rendelkezésre állásról, a használatról és a teljesítményről
Élő áttelepítés: nem támogatott
Memóriamegőrző frissítések: nem támogatott
Virtuális gép generációjának támogatása: 2. generáció
Gyorsított hálózatkezelés: Támogatott
Rövid élettartamú operációsrendszer-lemezek: támogatott
Infiniband: Támogatott, GPUDirect RDMA, 8x400 Gigabit NDR
Beágyazott virtualizálás: nem támogatott
Fontos
Az ND MI300X v5 virtuális gépek használatának megkezdéséhez tekintse meg a HPC számítási feladatok konfigurációját és optimalizálását, beleértve az illesztőprogramok és a hálózati konfiguráció lépéseit. A GPU-memória I/O-terhelésének növekedése miatt az ND MI300X v5 használatához 2. generációs virtuális gépek és marketplace-rendszerképek szükségesek.
Méretek sorozatban
Méret | vCPU | Memória: GiB | Ideiglenes tárterület (SSD) GiB | GPU | GPU memória GiB | Adatlemezek max. száma | A lemez maximális átviteli sebessége: IOPS/MBps | Hálózati sávszélesség maximális kihasználtság | Hálózati adapterek maximális száma |
---|---|---|---|---|---|---|---|---|---|
Standard_ND96isr_MI300X_v5 | 96 | 1850 | 1000 | 8 MI300X | 192 | 32 | 40800/612 | 80 000 Mb/s | 8 |
Mérettábla definíciói
A tárolókapacitás mértékegysége GiB (gibibájt = 1024^3 bájt). Ha a GB-ban mért lemezeket (1000^3 bájt) összehasonlítja a GiB-ben mért lemezekkel (1024^3), ne feledje, hogy a GiB-ben megadott kapacitásszámok kisebbnek tűnhetnek. Például 1023 GiB = 1098,4 GB.
A lemezteljesítmény másodpercenkénti bemeneti/kimeneti műveletek (IOPS) mennyiségeként van kifejezve, valamint MBps-ben, ahol 1 MBps = 10^6 bájt/másodperc.
Az adatlemezek gyorsítótárazott és gyorsítótárazás nélküli módban üzemelhetnek. Gyorsítótárazott adatlemezüzem esetében a gazdagép gyorsítótáras üzemmódja ReadOnly (Csak olvasás) vagy ReadWrite (Írás és olvasás) beállításra van konfigurálva. Gyorsítótárazás nélküli adatlemezüzem esetében a gazdagép gyorsítótáras üzemmódja None (Nincs) beállításra van konfigurálva.
A virtuális gépek legjobb tárolási teljesítményének megismeréséhez tekintse meg a virtuális gépek és a lemezek teljesítményét.
A várt hálózati sávszélesség a virtuálisgép-típusonként lefoglalt maximális összesített sávszélesség az összes hálózati adapteren az összes célhelyen. További információ: Virtuális gépek hálózati sávszélessége.
A felső korlátok nem garantáltak. A korlátok útmutatást nyújtanak a megfelelő virtuálisgép-típus kiválasztásához a kívánt alkalmazáshoz. A tényleges hálózati teljesítmény számos tényezőtől függ, például a hálózati torlódástól, az alkalmazások terhelésétől és a hálózati beállításoktól. A hálózati átviteli sebesség optimalizálásáról további információt az Azure-beli virtuális gépek hálózati átviteli sebességének optimalizálása című témakörben talál. A várt hálózati teljesítmény Linux vagy Windows rendszeren való eléréséhez előfordulhat, hogy ki kell választania egy adott verziót, vagy optimalizálnia kell a virtuális gépet. További információ: Sávszélesség/átviteli sebesség tesztelése (NTTTCP).
Egyéb méretinformációk
Az összes elérhető méret listája: Méretek
Díjkalkulátor: Tarifakalkulátor
Információ a lemeztípusokról: Lemeztípusok
Következő lépések
További információ arról, hogyan segíthet az Azure számítási egységek (ACU) az Azure SKU-k számítási teljesítményének összehasonlításában.
Tekintse meg az azure-beli dedikált gazdagépeket azokhoz a fizikai kiszolgálókhoz, amelyeket egy vagy több, egy Azure-előfizetéshez rendelt virtuális gép üzemeltethet.
Megtudhatja, hogyan monitorozhat Azure-beli virtuális gépeket.
Visszajelzés
https://aka.ms/ContentUserFeedback.
Hamarosan elérhető: 2024-ben fokozatosan kivezetjük a GitHub-problémákat a tartalom visszajelzési mechanizmusaként, és lecseréljük egy új visszajelzési rendszerre. További információ:Visszajelzés küldése és megtekintése a következőhöz: