Erőforrások kvótáinak kezelése és növelése az Azure AI Studióval
Fontos
A cikkben ismertetett funkciók némelyike csak előzetes verzióban érhető el. Ez az előzetes verzió szolgáltatásszint-szerződés nélkül érhető el, és éles számítási feladatokhoz nem javasoljuk. Előfordulhat, hogy néhány funkció nem támogatott, vagy korlátozott képességekkel rendelkezik. További információ: Kiegészítő használati feltételek a Microsoft Azure előzetes verziójú termékeihez.
A kvóta lehetővé teszi, hogy aktívan kezelje a díjkorlátok kiosztását az előfizetésen belüli üzemelő példányok között. Ez a cikk végigvezeti az Azure AI Studio virtuális gépei és az Azure OpenAI-modellek kvótájának kezelésén.
Az Azure korlátokat és kvótákat használ a költségvetés visszaélés miatti túllépésének megelőzése és az Azure kapacitáskorlátozásainak figyelembevétele érdekében. A rendszergazdák költségeinek szabályozására is jó módszer. Vegye figyelembe ezeket a korlátokat a számítási feladatokra való skálázáskor.
Ebben a cikkben a következő tudnivalókat ismerheti meg:
- Az Azure-erőforrások alapértelmezett korlátai
- Az Azure AI Studio központi szintű kvótáinak létrehozása.
- Kvóták és korlátok megtekintése
- Kvóta- és korlátnövelés kérése
Különleges megfontolások
A kvóták a fiók minden egyes előfizetésére vonatkoznak. Ha több előfizetéssel rendelkezik, minden előfizetéshez kvótanövelést kell kérnie.
A kvóta az Azure-erőforrások kreditkorlátja, nem kapacitásgarancia. Nagyobb léptékű kapacitásigény esetén lépjen kapcsolatba az Azure ügyfélszolgálatával a kvótanöveléshez.
Feljegyzés
Az Azure AI Studio compute a központi számítási kvótától eltérő kvótával rendelkezik.
Az alapértelmezett korlátok az ajánlat kategóriája (pl. ingyenes próbaverzió, használatalapú fizetés) és a virtuálisgép-sorozat (pl. Dv2, F, G) szerint változnak.
Azure AI Studio-kvóta
Az Azure AI Studio alábbi műveletei kvótát használnak fel:
- Számítási példány létrehozása.
- Vektorindex létrehozása.
- Nyitott modellek üzembe helyezése a modellkatalógusból.
Azure AI Studio compute
Az Azure AI Studio compute alapértelmezett kvótakorlátot szab a magok számára és az előfizetések régiónként engedélyezett egyedi számítási erőforrásaira.
- A magok számára vonatkozó kvótát az egyes virtuálisgép-család és az összes összes mag felosztja.
- Az egyedi számítási erőforrások régiónkénti számának kvótája eltér a virtuális gép magkvótajától, mivel csak a felügyelt számítási erőforrásokra vonatkozik
A számítási korlátok növeléséhez kérheti a kvóta növelését az Azure AI Studióban.
Az elérhető erőforrások a következők:
- A régiónkénti dedikált magok alapértelmezett korlátja 24 és 300 között van az előfizetési ajánlat típusának függvényében. A dedikált magok számát előfizetésenként és virtuálisgép-családonként növelheti. Az olyan speciális virtuálisgép-családok, mint az NCv2, az NCv3 vagy az ND sorozat, alapértelmezés szerint nulla maggal kezdődnek. A GPU-k alapértelmezett magszáma is nulla.
- A régiónkénti teljes számítási korlát alapértelmezett korlátja régiónként 500 egy adott előfizetésen belül, és régiónként legfeljebb 2500-ra növelhető. Ez a korlát meg van osztva a számítási példányok és a felügyelt online végponttelepítések között. Egy számítási példány kvóta szempontjából egycsomópontos fürtnek minősül. A teljes számítási korlát növelése érdekében nyisson meg egy online ügyfélszolgálati kérelmet.
A támogatási kérelem megnyitásakor a teljes számítási korlát növeléséhez adja meg a következő információkat:
Válassza a Technikai lehetőséget a probléma típusához.
Válassza ki azt az előfizetést, amelyhez növelni szeretné a kvótát.
Válassza a Gép Tanulás szolgáltatástípust.
Válassza ki azt az erőforrást, amelyhez növelni szeretné a kvótát.
Az Összegzés mezőben adja meg a "Teljes számítási korlátok növelése" kifejezést.
A probléma altípusaként válassza ki a számítási példányt , a probléma altípusaként pedig a kvótát .
Válassza a Tovább lehetőséget.
A További részletek lapon adja meg az előfizetés azonosítóját, régióját, új korlátját (500 és 2500 között), valamint üzleti indoklást a régió teljes számítási korlátjának növeléséhez.
Válassza a Létrehozás lehetőséget a támogatási kérelem jegyének elküldéséhez.
Az Azure AI Studio megosztott kvótája
Az Azure AI Studio megosztott kvótakészletet biztosít, amelyet a különböző régiók különböző felhasználói egyszerre használhatnak. A rendelkezésre állástól függően a felhasználók ideiglenesen hozzáférhetnek a megosztott készlet kvótáihoz, és a kvótával korlátozott ideig végezhetnek tesztelést. A megadott időtartam a használati esettől függ. A kvótakészletből származó kvóta ideiglenes használatával többé nem kell támogatási jegyet küldenie a rövid távú kvótanöveléshez, vagy várnia kell, amíg a kvótakérelmet jóváhagyják, mielőtt továbbléphet a számítási feladatra.
A megosztott kvótakészlet használata a Modellkatalógusból származó Llama-2, Phi, Nemotron, Mistral, Dolly és Deci-DeciLM modellekre vonatkozó következtetés teszteléséhez érhető el. A megosztott kvótát csak ideiglenes tesztvégpontok létrehozására használhatja, éles végpontok nem. Az éles végpontok esetében dedikált kvótát kell kérnie. A megosztott kvóták számlázása használatalapú, csakúgy, mint a dedikált virtuálisgép-családok számlázása.
Container Instances
További információ: Tárolópéldányok korlátai.
Tárolás
Az Azure Storage legfeljebb 250 tárfiókot biztosít régiónként, előfizetésenként. Ez a korlát standard és prémium szintű tárfiókokat is tartalmaz.
Kvóták megtekintése és kérése az Azure AI Studióban
Kvóták használatával kezelheti a számítási célfoglalást több Azure AI Studio-központ között ugyanabban az előfizetésben.
Alapértelmezés szerint minden központ ugyanazt a kvótát használja, mint a virtuálisgép-családok előfizetési szintű kvótája. Azonban beállíthatja az egyes virtuálisgép-családokra vonatkozó maximális kvótát, hogy részletesebb költségszabályozást és szabályozást biztosítson az előfizetésben lévő központokon. Az egyes virtuálisgép-családok kvótái lehetővé teszik a kapacitás megosztását és az erőforrás-versengési problémák elkerülését.
Az Azure AI Studióban nyissa meg a kezdőlapot, és válassza a Kvóta lehetőséget.
Válassza az Azure ML lapot a virtuálisgép-családok kvótájának megtekintéséhez. A kvóta az előfizetés szintjén jelenik meg a kiválasztott Azure-régióban. További kvóta kéréséhez válassza ki a virtuálisgép-családot, majd válassza a Kvóta kérése lehetőséget.
