Megosztás a következőn keresztül:

Erőforrások kvótáinak kezelése és növelése az Azure AI Studióval

  • Cikk

Fontos

A cikkben megjelölt (előzetes verziójú) elemek jelenleg nyilvános előzetes verzióban érhetők el. Ez az előzetes verzió szolgáltatásszint-szerződés nélkül érhető el, és éles számítási feladatokhoz nem javasoljuk. Előfordulhat, hogy néhány funkció nem támogatott, vagy korlátozott képességekkel rendelkezik. További információ: Kiegészítő használati feltételek a Microsoft Azure előzetes verziójú termékeihez.

A kvóta lehetővé teszi, hogy aktívan kezelje a díjkorlátok kiosztását az előfizetésen belüli üzemelő példányok között. Ez a cikk végigvezeti az Azure AI Studio virtuális gépei és az Azure OpenAI-modellek kvótájának kezelésén.

Az Azure korlátokat és kvótákat használ a költségvetés visszaélés miatti túllépésének megelőzése és az Azure kapacitáskorlátozásainak figyelembevétele érdekében. A rendszergazdák költségeinek szabályozására is jó módszer. Vegye figyelembe ezeket a korlátokat a számítási feladatokra való skálázáskor.

Ebben a cikkben a következő tudnivalókat ismerheti meg:

  • Az Azure-erőforrások alapértelmezett korlátai
  • Az Azure AI Studio központi szintű kvótáinak létrehozása.
  • Kvóták és korlátok megtekintése
  • Kvóta- és korlátnövelés kérése

Különleges megfontolások

A kvóták a fiók minden egyes előfizetésére vonatkoznak. Ha több előfizetéssel rendelkezik, minden előfizetéshez kvótanövelést kell kérnie.

A kvóta az Azure-erőforrások kreditkorlátja, nem kapacitásgarancia. Nagyobb léptékű kapacitásigény esetén lépjen kapcsolatba az Azure ügyfélszolgálatával a kvótanöveléshez.

Feljegyzés

Az Azure AI Studio compute a központi számítási kvótától eltérő kvótával rendelkezik.

Az alapértelmezett korlátok az ajánlat kategóriája (pl. ingyenes próbaverzió, használatalapú fizetés) és a virtuálisgép-sorozat (pl. Dv2, F, G) szerint változnak.

Azure AI Studio-kvóta

Az Azure AI Studio alábbi műveletei kvótát használnak fel:

  • Számítási példány létrehozása.
  • Vektorindex létrehozása.
  • Nyitott modellek üzembe helyezése a modellkatalógusból.

Azure AI Studio compute

Az Azure AI Studio compute alapértelmezett kvótakorlátot szab a magok számára és az előfizetések régiónként engedélyezett egyedi számítási erőforrásaira.

  • A magok számára vonatkozó kvótát az egyes virtuálisgép-család és az összes összes mag felosztja.
  • Az egyedi számítási erőforrások régiónkénti számának kvótája eltér a virtuális gép magkvótajától, mivel csak a felügyelt számítási erőforrásokra vonatkozik

A számítási korlátok növeléséhez kérheti a kvóta növelését az Azure AI Studióban.

Az elérhető erőforrások a következők:

  • A régiónkénti dedikált magok alapértelmezett korlátja 24 és 300 között van az előfizetési ajánlat típusának függvényében. A dedikált magok számát előfizetésenként és virtuálisgép-családonként növelheti. Az olyan speciális virtuálisgép-családok, mint az NCv2, az NCv3 vagy az ND sorozat, alapértelmezés szerint nulla maggal kezdődnek. A GPU-k alapértelmezett magszáma is nulla.
  • A régiónkénti teljes számítási korlát alapértelmezett korlátja régiónként 500 egy adott előfizetésen belül, és régiónként legfeljebb 2500-ra növelhető. Ez a korlát meg van osztva a számítási példányok és a felügyelt online végponttelepítések között. Egy számítási példány kvóta szempontjából egycsomópontos fürtnek minősül. A teljes számítási korlát növelése érdekében nyisson meg egy online ügyfélszolgálati kérelmet.

A támogatási kérelem megnyitásakor a teljes számítási korlát növeléséhez adja meg a következő információkat:

  1. Válassza a Technikai lehetőséget a probléma típusához.

  2. Válassza ki azt az előfizetést, amelyhez növelni szeretné a kvótát.

  3. Válassza a Machine Learning szolgáltatást.

  4. Válassza ki azt az erőforrást, amelyhez növelni szeretné a kvótát.

  5. Az Összegzés mezőben adja meg a "Teljes számítási korlátok növelése" kifejezést.

  6. A probléma altípusaként válassza ki a számítási példányt , a probléma altípusaként pedig a kvótát .

    Képernyőkép a számításikvóta-kérelmek Azure Portalon való elküldéséhez.

  7. Válassza a Tovább lehetőséget.

  8. A További részletek lapon adja meg az előfizetés azonosítóját, régióját, új korlátját (500 és 2500 között), valamint üzleti indoklást a régió teljes számítási korlátjának növeléséhez.

  9. Válassza a Létrehozás lehetőséget a támogatási kérelem jegyének elküldéséhez.

Az Azure AI Studio megosztott kvótája

Az Azure AI Studio megosztott kvótakészletet biztosít, amelyet a különböző régiók különböző felhasználói egyszerre használhatnak. A rendelkezésre állástól függően a felhasználók ideiglenesen hozzáférhetnek a megosztott készlet kvótáihoz, és a kvótával korlátozott ideig végezhetnek tesztelést. A megadott időtartam a használati esettől függ. A kvótakészletből származó kvóta ideiglenes használatával többé nem kell támogatási jegyet küldenie a rövid távú kvótanöveléshez, vagy várnia kell, amíg a kvótakérelmet jóváhagyják, mielőtt továbbléphet a számítási feladatra.

A megosztott kvótakészlet használata a Modellkatalógusból származó Llama-2, Phi, Nemotron, Mistral, Dolly és Deci-DeciLM modellekre vonatkozó következtetés teszteléséhez érhető el. A megosztott kvótát csak ideiglenes tesztvégpontok létrehozására használhatja, éles végpontok nem. Az éles végpontok esetében dedikált kvótát kell kérnie. A megosztott kvóták számlázása használatalapú, csakúgy, mint a dedikált virtuálisgép-családok számlázása.

Container Instances

További információ: Tárolópéldányok korlátai.

Tárolás

Az Azure Storage legfeljebb 250 tárfiókot biztosít régiónként, előfizetésenként. Ez a korlát standard és prémium szintű tárfiókokat is tartalmaz.

Kvóták megtekintése és kérése az Azure AI Studióban

Kvóták használatával kezelheti a számítási célfoglalást több Azure AI Studio-központ között ugyanabban az előfizetésben.

Alapértelmezés szerint minden központ ugyanazt a kvótát használja, mint a virtuálisgép-családok előfizetési szintű kvótája. Azonban beállíthatja az egyes virtuálisgép-családokra vonatkozó maximális kvótát, hogy részletesebb költségszabályozást és szabályozást biztosítson az előfizetésben lévő központokon. Az egyes virtuálisgép-családok kvótái lehetővé teszik a kapacitás megosztását és az erőforrás-versengési problémák elkerülését.

  1. Az Azure AI Studióban nyissa meg a kezdőlapot, és válassza ki a Modellkvótát vagy a Virtuálisgép-kvótát a Felügyelet szakaszban.

    Képernyőkép a modell és a virtuálisgép-kvóta bejegyzéséről a felügyeleti szakaszban.

  2. A Modellkvóta kiválasztásakor megtekintheti a kiválasztott Azure-régió modelljeinek kvótát. További kvóta kéréséhez válassza ki a modellt, majd válassza a Kvóta kérése lehetőséget.

    • Az Összes kvóta megjelenítése kapcsolóval megjelenítheti az összes kvótát, vagy csak az aktuálisan lefoglalt kvótát.
    • A Csoportosítás legördülő listában kvótatípus, Régió & modell, Kvótatípus, Modell & régió vagy Nincs szerint csoportosíthatja a listát. A Nincs csoportosítás megjeleníti a modelltelepítések listáját.
    • Bontsa ki a csoportosításokat az adott modelltelepítésekre vonatkozó információk megtekintéséhez. Modelltelepítés megtekintése közben a Kvótafoglalás oszlopban található ceruza ikont választva szerkesztheti a modelltelepítés kvótafoglalását.
    • A lap oldalán található diagramokkal további részleteket tekinthet meg a kvótahasználatról. A diagramok interaktívak; A diagram egy szakaszára mutatva további információk jelennek meg, és a diagram kiválasztása szűri a modellek listáját. A diagram jelmagyarázatának kiválasztása szűri a diagramon megjelenített adatokat.
    • Az Azure OpenAI kiépített hivatkozásával megtekintheti a kiépített modellekre vonatkozó információkat, beleértve a kapacitáskalkulátort is.

    Képernyőkép az Azure AI Studio Modellkvóta oldaláról.

  3. A virtuálisgép-kvóta kiválasztásakor megtekintheti a virtuálisgép-családok kvótáját és használatát a kiválasztott Azure-régióban. További kvóta kéréséhez válassza ki a virtuálisgép-családot, majd válassza a Kvóta kérése lehetőséget.

    Képernyőkép az Azure AI Studióban található virtuálisgép-kvóta oldaláról.

Következő lépések