Megosztás a következőn keresztül:

Azure nagy teljesítményű számítástechnikai (HPC) célzónagyorsító

  • Cikk

A nagy teljesítményű számítási (HPC) célzónagyorsító automatizálja a környezet üzembe helyezését. Ez a környezet egy alap keretrendszert biztosít, amelyet testre szabhat, hogy teljes körű üzembe helyezési mechanizmust hozzon létre egy teljes KÖRŰ HPC-fürtmegoldáshoz az Azure-ban. A gyorsító nyílt forráskódú szkriptek & sablonok gyűjteménye, amelyek előkészíthetik a nagyvállalati szintű kezdőzónákat. Konkrét architekturális megközelítést és referencia-implementációt biztosíthat, amely megfelel a felhőadaptálási keretrendszer architektúrájának és ajánlott eljárásainak.

Az ügyfelek különböző módokon vezetik be a HPC-t az üzleti igényeiknek megfelelően, és a HPC célzónagyorsítót az Ön igényeinek megfelelő architektúrához igazíthatja. A gyorsító használata segít a szervezetnek a fenntartható lépték felé vezető úton haladni.

Nagyvállalati szintű célzóna implementálása

A HPC célzónagyorsítója feltételezi, hogy egy nagyvállalati szintű célzónával kezd, amelyet sikeresen implementált. Erről az előfeltételről az alábbi cikkekben talál további információt:

A HPC célzónagyorsítója

A HPC célzónagyorsító célzónáinak megközelítése a következő eszközöket biztosítja a projekt számára:

  • Moduláris megközelítés, amely lehetővé teszi a környezeti változók testreszabását
  • Tervezési irányelvek a kritikus döntések értékeléséhez
  • A célzóna architektúrája
  • Olyan implementáció, amely a következőket tartalmazza:
    • Üzembe helyezhető referencia, amely képes létrehozni a környezetet a HPC üzembe helyezéséhez
    • A Microsoft által jóváhagyott HPC referencia-implementáció az üzembe helyezett környezet teszteléséhez

Tervezési irányelvek az energia, a gyártás és a pénzügy területén

A célzónák architektúrája üzleti szektoronként eltérő, a szervezettől függően eltérő. Ez a szakasz azokat a cikkeket sorolja fel szektoronként, amelyek útmutatást nyújtanak a kezdőzóna létrehozásához:

Tervezési irányelvek a HPC számítási feladatokhoz való kiválasztásához

A teljesítmény optimalizálásához és a költségek szabályozásához fontos, hogy a GPU-ra optimalizált számítási feladat megfelelő termékváltozata legyen kiválasztva az AI-számítási feladatokhoz. A Microsoft számos különböző termékváltozatot kínál, amelyek olyan számítási feladatokhoz vannak optimalizálva, amelyek nagyobb GPU-teljesítményt élveznek. Az AI-számítási feladatokhoz megfelelő termékváltozat kiválasztásakor több szempontot is figyelembe kell venni. A kisebb számítási feladatok csak a processzor, a GPU és a nagyobb teljesítményű SKU-k, például az NDv4 sávszélességének egy részét használhatják ki. Érdemes lehet megfontolni más számítási termékváltozatokat, például az NCv4-et és az NDv2-t a kisebb feladatokhoz. Az alábbiakban néhány szempontot figyelembe kell venni az AI-számítási feladatokhoz optimalizált GPU-számítások megfelelő termékváltozatának kiválasztásakor:

  • Ellenőrzőpontozás. Vegye figyelembe az olyan tényezőket, mint az ellenőrzőpont-intervallum a gépi tanulási modellek futtatásakor. Ez hatással lehet a GPU teljesítményére a betanítási fázisban. Egyensúlyt teremt a tárolási hatékonyság és a zökkenőmentes GPU-műveletek között. Monitorozza a GPU-használatot.
  • Következtetés. Az inferencing követelmények eltérnek a betanítási követelményektől, és a processzorteljesítményt maximálisan ki tudják terhelni. A számítási termékváltozat kiválasztásakor vegye figyelembe a modell következtetési követelményeit. Monitorozza a processzorhasználatot.
  • Betanítás. A betanítás során vegye figyelembe a modell követelményeit, és monitorozza a PROCESSZOR- és GPU-használatot is.
  • Feladat méretezése. Az AI-számítási feladatok számítási termékváltozatának mérlegelésekor vegye figyelembe a feladat méretét. A kisebb feladatok, például a körülbelül OPT 1.3B nem biztos, hogy kihasználják a nagyobb termékváltozat-méreteket, és a feladat fázisától függően (következtetés, betanítás) elhagyhatják a PROCESSZOR- és GPU-teljesítmény tétlenségét.
  • Sávszélesség. A nagyobb, kisebb késésű sávszélesség költség lehet, ha nincs használatban. Vegye figyelembe az InfiniBand-et csak a legnagyobb modellek esetében, amelyek extra sávszélességet igényelnek.

Az Azure GPU-ra optimalizált virtuálisgép-méreteinek megtekintése.

Példa: energiafogalmi referenciaarchitektúra

Az alábbi fogalmi referenciaarchitektúra egy példa, amely az energiakörnyezetek tervezési területeit és ajánlott eljárásait mutatja be.

Diagram that shows an example architecture for an energy environment, including compute, storage, subnets, a database, and a front end for on-premises users.

Példa: a pénzügyi alapkoncepciós architektúra

Az alábbi fogalmi referenciaarchitektúra egy példa a pénzügyi környezetek tervezési területeire és ajánlott eljárásaira.

Diagram that shows an example architecture for a finance environment, including on-premises resources, virtual network, subnets, and network security groups.

Példa: a gyártás elméleti referenciaarchitektúrája

Az alábbi fogalmi referenciaarchitektúra egy példa a gyártási környezetek tervezési területeire és ajánlott eljárásaira.

Diagram that shows an example architecture for a manufacturing environment, including on-premises and cloud resources and an HPC landing zone.

A HPC célzónagyorsító beszerzése

A HPC célzónagyorsító elérhető a GitHubon: Azure HPC OnDemand platformgyorsító

További lépések

A HPC célzónagyorsító architektúrájához kapcsolódó megfontolásokért és javaslatokért tekintse át a HPC célzónagyorsító kritikus tervezési területeit az Azure Identity and Access Managementben.