Üzembe helyezési típusok Microsoft Foundry modellekhez az Azure Government szolgáltatásban

Amikor Microsoft Foundryben helyez üzembe egy modellt Azure Government, az alábbiakat meghatározó üzembe helyezési típust választja:

  • Az adatok feldolgozásának helye (adatzóna vagy egyetlen régió)
  • Fizetés (tokenenkénti fizetés vagy a fenntartott kapacitás)
  • Teljesítményjellemzők (késési variancia, átviteli sebességkorlátok)

A szolgáltatás két fő kategóriát kínál: standard (jogkivonatonkénti fizetés) és telepített (fenntartott kapacitás). Az egyes kategóriákon belül kiválaszthatja az adatzónát vagy az önálló regionális feldolgozást a követelményeknek megfelelően.

Képernyőkép az Foundry portál üzembe helyezési párbeszédpaneléről, amelyen az üzembe helyezési típus kijelölési mezője látható, amelyen a Global Standard van kiválasztva.

Fontos

Adat-tároló minden üzembe helyezési típushoz: A inaktív állapotban tárolt adatok a kijelölt Azure régióban maradnak. A következtetési adatok feldolgozása azonban az alábbiak szerint történik:

  • USGov DataZone típusok: Csak a Azure Government felhőbeli USGov-adatzónán belül feldolgozva
  • Standard/Regionális típusok: Feldolgozás az üzembe helyezési régióban

Üzembehelyezési típus összehasonlítása

Üzembe helyezés típusa Termékváltozat kódja Adatfeldolgozás Számlázás Legjobb
Adatzóna Szabvány DataZoneStandard Adatzónán belül Fizetés tokenenként USGov adatzóna-megfelelőség
Kiépített adatzóna DataZoneProvisionedManaged Adatzónán belül Fenntartott PTU USGov-adatzóna + kiszámítható átviteli sebesség
Standard Standard Egyetlen régió Fizetés tokenenként Regionális megfelelőség, alacsony mennyiség
Regionális előállított ProvisionedManaged Egyetlen régió Fenntartott PTU Regionális megfelelőség + átviteli sebesség

Megjegyzés

A fizetési lehetőségek és a PTU-kvóta viselkedése modellenként eltérő. Az Azure Governmentre vonatkozó jogosultsági és számlázási követelményekkel kapcsolatban lásd a Kiépített átviteli sebesség az Azure Governmentben című cikket.

Megjegyzés

Nem minden modell támogatja az összes üzembe helyezési típust. Ellenőrizze az Azure által értékesített Foundry-modelleket a modellek üzembehelyezési típus és régió szerinti elérhetőségéhez.

Megjegyzés

Az SLA-garanciák az üzembe helyezés típusától függően változnak. A kiépített típusok garantált átviteli sebességet és alacsonyabb késési varianciát biztosítanak. A standard típusok mindent megtesznek a szolgáltatásért. A részletekért lásd az Azure OpenAI Service Azure SLA-ját.

Tipp

A részletes díjszabásért lásd: Azure OpenAI Service díjszabás.

Válassza ki a megfelelő üzembehelyezési típust

Az üzembe helyezés típusának kiválasztásához használja az alábbi feltételeket:

Adattárolási követelmény szerint

  • USGov adatzóna: Azure Government régióban használja a DataZone Standardot vagy a DataZone Provisionedet
  • Egyetlen régióra koncentrálva: Használd a(z) Standard vagy regionálisan kiépített("provisioned") megoldást.

Terhelésmintázat szerint

  • Változó, kiugró forgalom: Standard vagy DataZone használata (tokenenkénti fizetés)
  • Konzisztens nagy mennyiség: Kiépített típusok használata (fenntartott kapacitás)

Késési követelmény szerint

  • Kis késési eltérés szükséges: Kiépített típusok használata
  • Elfogadható késési variancia: Standard típusok használata

Adatzónák üzembe helyezései

A DataZone üzembehelyezési típusai esetében a rendszer csak a megadott adatzónán belül dolgozza fel a kéréseket és a válaszokat:

  • USGov: A két Azure Government régióban (USGovArizona vagy USGovVirginia) feldolgozott adatok

További információ a Azure által értékesített Foundry-modellek "Modellrégió rendelkezésre állása üzembe helyezési típus szerint" című szakaszában.

Megjegyzés

A Data Zone Standard üzembe helyezési típusai esetén, ha az elsődleges régió szolgáltatáskimaradást tapasztal, a rendszer az eredetileg ebbe a régióba irányított összes forgalmat érinti. További információ: magas rendelkezésre állás és vészhelyreállítási útmutató.

Adatzóna Standard

  • Termékváltozat neve a kódban: DataZoneStandard

A Data Zone Standard üzemelő példányai dinamikusan irányítják a forgalmat a Microsoft-definiált adatzónán (USGov) belüli adatközpontokhoz. Ez az üzembe helyezési típus magasabb alapértelmezett kvótákat biztosít, mint a földrajzi alapú üzembe helyezési típusok, miközben az adatok a megadott zónán belül maradnak.

A nagy mennyiségű és konzisztens forgalommal rendelkező ügyfelek nagyobb késleltetési ingadozást tapasztalhatnak. A küszöbérték modellenként van beállítva. Ha többet szeretne megtudni az Azure Government szolgáltatásban elérhető Azure OpenAI-kvótákról, lásd a Kvóták és korlátok az Azure OpenAI-ban. Azoknál a feladatoknál, amelyek nagy mennyiségű forgalmat és alacsony késési eltérést igényelnek, fontolja meg a dedikált üzembe helyezési típusokat.

Kiépített adatzóna

  • Termékváltozat neve a kódban: DataZoneProvisionedManaged

A kiépített adatzónák dinamikusan irányítják a forgalmat a Microsoft megadott adatzónán (USGov) belül, miközben fenntartott modellfeldolgozási kapacitást biztosítanak. Ez az üzembe helyezési típus egyesíti az adatzónák megfelelőségét a magas és kiszámítható átviteli sebességgel.

Standard

  • Termékváltozat neve a kódban: Standard

A standard telepítések token alapon való számlázást használnak. Csak azért fizet, amit fogyaszt. Az egyes régiókban és átviteli sebességben elérhető modellek korlátozottak lehetnek.

A standard telepítések alacsony-közepes volumenű feladatokhoz alkalmasak, magas löketszerű terhelés esetén. A nagy mennyiségű és konzisztens forgalommal rendelkező ügyfelek nagyobb késleltetési ingadozást tapasztalhatnak.

Regionális telepített

  • Termékváltozat neve a kódban: ProvisionedManaged

A regionális, előre kiosztott telepítések lehetővé teszik, hogy megadja az adott telepítésben szükséges átviteli kapacitást. A szolgáltatás ezután lefoglalja a szükséges modellfeldolgozási kapacitást, és biztosítja, hogy készen áll az Ön számára. Az átviteli sebesség a kiosztott átviteli egységek (PTU-k) alapján van definiálva, amely az üzembe helyezés átviteli sebességének normalizált módja. Minden modell-verzió pár üzembe helyezéséhez különböző mennyiségű PTU szükséges, és PTU-nként eltérő átviteli sebességet biztosít. A minimális PTU-követelmények modellenként változnak. Az aktuális minimális értékekről és a rendelkezésre álló kapacitásról lásd a kiosztott átviteli sebességet a Azure Government.

Üzembehelyezési problémák elhárítása

Általános problémák a kiépítések létrehozásakor vagy használatakor:

Kérdés Okoz Felbontás
Az üzembe helyezés típusa nem érhető el A modell nem támogatja a kijelölt típust Modell rendelkezésre állásának ellenőrzése üzembe helyezési típus szerint
Kvóta túllépve A TPM-hez vagy PTU-khoz elért előfizetési korlát A Azure Government kvótakérelmek űrlapjának használatával szabványos vagy helyettesíthető PTU-kvótát kérhet le, vagy másik régiót használhat
A régió nem érhető el A modell nincs üzembe helyezve a kijelölt régióban Válasszon ki egy régiót a modell rendelkezésre állási listájából
A kiépített kapacitás nem érhető el Nincs PTU-kapacitás a régióban Próbáljon ki egy másik régiót, vagy használja a Kiépített DataZone-t a szélesebb körű rendelkezésre állás érdekében

Az Azure Governmentben az Azure OpenAI kvóta korlátait üzemelő példánytípus szerint a következő dokumentumban találja: Kvóták és korlátok az Azure OpenAI-ban.

Visszaélések monitorozása a Azure Government

A visszaélések monitorozásának nem minden funkciója van engedélyezve Azure OpenAI-környezetekben Azure Government. Ön felelős azért, hogy ésszerű technikai és üzemeltetési intézkedéseket hajtson végre annak érdekében, hogy észlelje és mérsékelje a szolgáltatásnak a Termékfeltételek megsértésével történő használatát. Az automatikus tartalombesorolás és -szűrés alapértelmezés szerint engedélyezve marad a Azure Government esetében. Ha módosított tartalomszűrőkre van szükség, alkalmazza a Azure Government Módosított szűrőalkalmazás.

Kapcsolódó tartalom

  • Last updated on