Az ND A100 v4 sorozatú virtuális gép (VM) az Azure GPU-család új zászlóshajója. Ezeket a méreteket a high-end Deep Learning-betanításhoz, valamint a szorosan összekapcsolt vertikális felskálázáshoz és a HPC-számítási feladatok vertikális felskálázásához tervezték.
Az ND A100 v4 sorozat egyetlen virtuális géppel és nyolc NVIDIA Ampere A100 40 GB-os Tensor Core GPU-val kezdődik. Az ND A100 v4-alapú üzemelő példányok akár több ezer GPU-ra is felskálázhatók, virtuális gépenként 1,6 TB/s kapcsolati sávszélességgel. A virtuális gépen belül minden GPU saját dedikált, topológia-agnosztikus 200 GB/s NVIDIA Mellanox HDR InfiniBand-kapcsolattal rendelkezik. Ezek a kapcsolatok automatikusan konfigurálva vannak az azonos Azure-beli virtuálisgép-méretezési csoportot használó virtuális gépek között, és támogatják a GPU Direct RDMA-t.
Minden GPU NVLINK 3.0-kapcsolattal rendelkezik a virtuális gépen belüli kommunikációhoz 96 fizikai 2. generációs AMD Epyc™ 7V12 (Róma) processzormaggal mögöttük.
Ezek a példányok kiváló teljesítményt nyújtanak számos olyan AI-, ML- és elemzési eszközhöz, amelyek támogatják a GPU-gyorsítást a "házon kívül", például a TensorFlow, a Pytorch, a Caffe, a RAPIDS és más keretrendszerek esetében. Emellett a kibővített InfiniBand-összekapcsolás számos meglévő AI- és HPC-eszközt támogat, amelyek az NVIDIA NCCL2 kommunikációs kódtáraira épülnek a GPU-k zökkenőmentes fürtözése érdekében.
Gazdagép-specifikációk
Rész
Mennyiség Egységek száma
Szemüveg Termékváltozat azonosítója, teljesítményegységek stb.
1A temp lemez sebessége gyakran különbözik az RR (Random Read) és az RW (Random Write) műveletek között. Az RR-műveletek általában gyorsabbak, mint az RW-műveletek. Az RW sebessége általában lassabb, mint a sorozat RR sebessége, ahol csak az RR sebességérték szerepel a listán.
A tárolókapacitás mértékegysége GiB (gibibájt = 1024^3 bájt). Ha a GB-ban mért lemezeket (1000^3 bájt) összehasonlítja a GiB-ben mért lemezekkel (1024^3), ne feledje, hogy a GiB-ben megadott kapacitásszámok kisebbnek tűnhetnek. Például 1023 GiB = 1098,4 GB.
A lemezteljesítmény másodpercenkénti bemeneti/kimeneti műveletek (IOPS) mennyiségeként van kifejezve, valamint MBps-ben, ahol 1 MBps = 10^6 bájt/másodperc.
1Egyes méretek támogatják a kipukkadást , hogy ideiglenesen növeljék a lemez teljesítményét. A kipukkadási sebességek egyszerre legfeljebb 30 percig tarthatók fenn.
A tárolókapacitás mértékegysége GiB (gibibájt = 1024^3 bájt). Ha a GB-ban mért lemezeket (1000^3 bájt) összehasonlítja a GiB-ben mért lemezekkel (1024^3), ne feledje, hogy a GiB-ben megadott kapacitásszámok kisebbnek tűnhetnek. Például 1023 GiB = 1098,4 GB.
A lemezteljesítmény másodpercenkénti bemeneti/kimeneti műveletek (IOPS) mennyiségeként van kifejezve, valamint MBps-ben, ahol 1 MBps = 10^6 bájt/másodperc.
Az adatlemezek gyorsítótárazott és gyorsítótárazás nélküli módban üzemelhetnek. Gyorsítótárazott adatlemezüzem esetében a gazdagép gyorsítótáras üzemmódja ReadOnly (Csak olvasás) vagy ReadWrite (Írás és olvasás) beállításra van konfigurálva. Gyorsítótárazás nélküli adatlemezüzem esetében a gazdagép gyorsítótáras üzemmódja None (Nincs) beállításra van konfigurálva.
A várt hálózati sávszélesség a virtuálisgép-típusonként lefoglalt maximális összesített sávszélesség az összes hálózati adapteren az összes célhelyen. További információ: Virtuális gépek hálózati sávszélessége
A felső korlátok nem garantáltak. A korlátok útmutatást nyújtanak a megfelelő virtuálisgép-típus kiválasztásához a kívánt alkalmazáshoz. A tényleges hálózati teljesítmény számos tényezőtől függ, például a hálózati torlódástól, az alkalmazások terhelésétől és a hálózati beállításoktól. A hálózati átviteli sebesség optimalizálásáról további információt az Azure-beli virtuális gépek hálózati átviteli sebességének optimalizálása című témakörben talál.
A várt hálózati teljesítmény Linux vagy Windows rendszeren való eléréséhez előfordulhat, hogy ki kell választania egy adott verziót, vagy optimalizálnia kell a virtuális gépet. További információ: Sávszélesség/átviteli sebesség tesztelése (NTTTCP).
Agyorsító (GPU-k, FPGA-k stb.) adatai az egyes méretekhez
Tekintse meg az azure-beli dedikált gazdagépeket azokhoz a fizikai kiszolgálókhoz, amelyeket egy vagy több, egy Azure-előfizetéshez rendelt virtuális gép üzemeltethet.