NC A100 v4-sorozat

  • Cikk

Figyelemfelhívás

Ez a cikk a CentOS-ra, egy olyan Linux-disztribúcióra hivatkozik, amely közel áll az élettartam (EOL) állapotához. Fontolja meg a használatát, és ennek megfelelően tervezze meg. További információ: CentOS End Of Life útmutató.

A következőkre vonatkozik: ✔️ Linux rendszerű virtuális gépek ✔️ Windows rendszerű virtuális gépek Rugalmas méretezési ✔️ csoportok ✔️ Egységes méretezési csoportok

Az NC A100 v4 sorozatú virtuális gép (VM) az Azure GPU-család új tagja. Ezt a sorozatot valós Azure-alkalmazás AI-betanításhoz és kötegelt következtetési számítási feladatokhoz használhatja.

Az NC A100 v4 sorozatot NVIDIA A100 PCIe GPU és harmadik generációs AMD EPYC™ 7V13 (Milan) processzorok hajtják. A virtuális gépek legfeljebb 4 NVIDIA A100 PCIe GPU-val rendelkeznek, egyenként 80 GB memóriával, 96 nem többszálú AMD EPYC Milan processzormaggal és 880 GiB rendszermemóriával. Ezek a virtuális gépek ideálisak valós, alkalmazott AI-számítási feladatokhoz, például:

  • GPU-gyorsított elemzések és adatbázisok
  • Kötegelt következtetés nagy elő- és utófeldolgozással
  • Autonómiamodell betanítása
  • Olaj- és gáztároló szimulációja
  • Gépi tanulás (ML) fejlesztése
  • Videófeldolgozás
  • AI/ML webszolgáltatások

Támogatott funkciók

Az NC A100 v4 virtuális gépek használatának megkezdéséhez tekintse meg a HPC számítási feladatok konfigurációját és optimalizálását az illesztőprogramot és a hálózati konfigurációt is beleértve.

A GPU-memória I/O-terhelésének növekedése miatt az NC A100 v4 használatához 2. generációs virtuális gépek és marketplace-rendszerképek szükségesek. Bár az Azure HPC-rendszerképek használata ajánlott, az Azure HPC Ubuntu 20.04 és az Azure HPC CentOS 7.9, RHEL 8.8, RHEL 9.2, Windows Server 2019 és Windows Server 2022 rendszerképek támogatottak.

Méret vCPU Memória (GiB) Temp Disk1 (GiB) NVMe-lemezek2 GPU3 GPU-memória (GiB) Adatlemezek max. száma A lemez maximális átviteli sebessége (IOPS/MBps) Hálózati adapterek/hálózati sávszélesség (MBps) maximális száma
Standard_NC24ads_A100_v4 24 220 64 960 GB 0 80 8 30000/1000 2/20,000
Standard_NC48ads_A100_v4 48 440 128 2x960 GB 2 160 16 60000/2000 4/40,000
Standard_NC96ads_A100_v4 96 880 256 4x960 GB 4 320 32 120000/4000 8/80,000

Az 1 NC A100 v4-es sorozatú virtuális gépek szabványos SCSI-alapú ideiglenes erőforráslemezzel rendelkeznek az operációs rendszer lapozásához/fájlcseréléshez. Ez biztosítja, hogy az NVMe-meghajtók teljesen dedikáltak legyenek az alkalmazások használatára. Ez a lemez rövid élettartamú, és minden adat elveszik a leállításkor/felszabadításkor.

2 A helyi NVMe-lemezek rövid élettartamúak, az adatok elvesznek ezeken a lemezeken, ha leállítja/felszabadítja a virtuális gépet. A helyi NVMe-lemez RAM-ként érkezik, és manuálisan kell formázni az újonnan üzembe helyezett virtuális gépen.

31 GPU = egy A100 80 GB-os PCIe GPU-kártya

Mérettábla definíciói

  • A tárolókapacitás mértékegysége GiB (gibibájt = 1024^3 bájt). Ha a GB-ban mért lemezeket (1000^3 bájt) összehasonlítja a GiB-ben mért lemezekkel (1024^3), ne feledje, hogy a GiB-ben megadott kapacitásszámok kisebbnek tűnhetnek. Például 1023 GiB = 1098,4 GB.

  • A lemezteljesítmény másodpercenkénti bemeneti/kimeneti műveletek (IOPS) mennyiségeként van kifejezve, valamint MBps-ben, ahol 1 MBps = 10^6 bájt/másodperc.

  • Az adatlemezek gyorsítótárazott és gyorsítótárazás nélküli módban üzemelhetnek. Gyorsítótárazott adatlemezüzem esetében a gazdagép gyorsítótáras üzemmódja ReadOnly (Csak olvasás) vagy ReadWrite (Írás és olvasás) beállításra van konfigurálva. Gyorsítótárazás nélküli adatlemezüzem esetében a gazdagép gyorsítótáras üzemmódja None (Nincs) beállításra van konfigurálva.

  • A virtuális gépek legjobb tárolási teljesítményének megismeréséhez tekintse meg a virtuális gépek és a lemezek teljesítményét.

  • A várt hálózati sávszélesség a virtuálisgép-típusonként lefoglalt maximális összesített sávszélesség az összes hálózati adapteren az összes célhelyen. További információ: Virtuális gépek hálózati sávszélessége.

    A felső korlátok nem garantáltak. A korlátok útmutatást nyújtanak a megfelelő virtuálisgép-típus kiválasztásához a kívánt alkalmazáshoz. A tényleges hálózati teljesítmény számos tényezőtől függ, például a hálózati torlódástól, az alkalmazások terhelésétől és a hálózati beállításoktól. A hálózati átviteli sebesség optimalizálásáról további információt az Azure-beli virtuális gépek hálózati átviteli sebességének optimalizálása című témakörben talál. A várt hálózati teljesítmény Linux vagy Windows rendszeren való eléréséhez előfordulhat, hogy ki kell választania egy adott verziót, vagy optimalizálnia kell a virtuális gépet. További információ: Sávszélesség/átviteli sebesség tesztelése (NTTTCP).

Egyéb méretek és információk

A díjkalkulátor segítségével megbecsülheti az Azure-beli virtuális gépek költségeit.

További információ a lemeztípusokról: Milyen lemeztípusok érhetők el az Azure-ban?

Következő lépés