Služba a funkce Azure OpenAI ve službě Azure Government
Tento článek popisuje rozdíly při používání Azure OpenAI ve službě Azure Government v porovnání s nabídkou komerčního cloudu. Další informace o samotné službě Azure OpenAI najdete v dokumentaci ke službě Azure OpenAI.
Modely Azure OpenAI
Přečtěte si další informace o různých možnostech jednotlivých modelů v modelech služby Azure OpenAI. Pro zákazníky s ohledem na provozní kontinuitu a zotavení po havárii (BCDR) si pečlivě poznamenejte typy nasazení, oblasti a dostupnost modelu níže, protože v obou oblastech nejsou k dispozici všechny kombinace modelů a typů.
Následující části ukazují dostupnost modelu podle oblasti a typu nasazení.
Dostupnost modelu nasazení úrovně Standard
| Oblast | gpt-35-turbo, 1106 | gpt-35-turbo, 0125 | gpt-4, 1106-Preview | gpt-4o, 2024-05-13 | text-embedding-ada-002 |
|---|---|---|---|---|---|
| usgovarizona | - | ✅ | ✅ | ✅ | ✅ |
| usgovvirginia | ✅ | ✅ | ✅ | - | ✅ |
Pokud chcete požádat o navýšení kvóty pro model spotřeby průběžných plateb, použijte https://aka.ms/AOAIGovQuota
Dostupnost zřízeného modelu nasazení
| Oblast | gpt-35-turbo, 1106 | gpt-35-turbo, 0125 | gpt-4, 1106-Preview | gpt-4o, 2024-05-13 |
|---|---|---|---|---|
| usgovarizona | - | ✅ | - | ✅ |
| usgovvirginia | - | ✅ | ✅ | ✅ |
Poznámka:
Zřízené jednotky propustnosti (PTU) se liší od standardní kvóty v Azure OpenAI a ve výchozím nastavení nejsou ve službě Azure Government dostupné. Další informace o této nabídce získáte od týmu účtu Microsoft.
Funkce Azure OpenAI
| Funkce | Popis |
|---|---|
| Připojit data | K dispozici v USGovVirginia a USGovArizona. Podporují se virtuální sítě a privátní propojení. Nasazení do webové aplikace nebo copilotu v nástroji Copilot Studio se nepodporuje. |
| Spravovaná identita | Ano, prostřednictvím Microsoft Entra ID |
| Podpora virtuální sítě a podpora privátního propojení | Ano. |
| Uživatelské rozhraní | Azure Portal pro správu účtů a prostředků Azure OpenAI Studio pro zkoumání modelů |
| Monitorování zneužití | Ne všechny funkce monitorování zneužití jsou povolené pro Azure OpenAI ve službě Azure Government. Zodpovídáte za implementaci přiměřených technických a provozních opatření k detekci a zmírnění jakéhokoli použití služby v rozporu s podmínkami produktu. Automatická klasifikace a filtrování obsahu zůstává ve výchozím nastavení pro Azure Government povolená. Pokud jsou požadovány upravené filtry obsahu, použijte na adrese https://aka.ms/AOAIGovModifyContentFilter |
| Úložiště dat | Ve službě Azure Government aktuálně nejsou povolené žádné funkce Azure OpenAI, které ukládají neaktivní uložená data zákazníků. Klíče spravované zákazníkem (CMK) se ale v Azure Government dají povolit, aby podporovaly použití stejných zásad ve službě Azure Government jako ve veřejném cloudu. Upozorňujeme také, že pokud jsou funkce Azure OpenAI, které ukládají zákaznická data, v budoucnu povolené ve službě Azure Government, použijí se na tato data všechna stávající nasazení CMK. Další informace najdete v Azure OpenAI Data Privacy. |
| Kompatibilita | Zobrazení aktuálního stavu dodržování předpisů Azure OpenAI ve službě Azure Government v oboru auditu služeb Azure Government |
| Koncové body služby | openai.azure.us |
| Klíčové portály |
|
Zřízená nasazení ve službě Azure Government
Následující průvodce vás provede nastavením zřízeného nasazení s prostředkem služby Azure OpenAI v Azure Government.
Požadavky
- Předplatné Azure Government
- Prostředek Azure OpenAI
- Schválená kvóta pro zřízené nasazení a zakoupení závazku
Správa závazků zřízené propustnosti
Pro Azure OpenAI ve službě Azure Government vyžadují zřízená nasazení propustnosti předem vytvořené a spravované závazky ze zobrazení Spravovat závazky v nástroji Azure OpenAI Studio. Do tohoto zobrazení můžete přejít tak , že v podokně Kvóta vyberete Spravovat závazky .
V zobrazení Spravovat závazky můžete udělat několik věcí:
- Kupte si nové závazky nebo upravte stávající závazky.
- Monitorujte všechny závazky ve vašem předplatném.
- Identifikujte závazky, které by mohly způsobit neočekávanou fakturaci, a proveďte příslušné kroky.
| Nastavení | Notes |
|---|---|
| Výběr prostředku | Vyberte prostředek, do kterého vytvoříte zřízené nasazení. Po zakoupení závazku nemůžete kvótu použít pro jiný prostředek, dokud nevyprší platnost aktuálního závazku. |
| Výběr typu závazku | Vyberte Zřízeno. (Zřízeno je ekvivalentem zřízeného spravovaného. |
| Aktuální nepotvrzená zřízená kvóta | Počet PTU, které jsou aktuálně k dispozici pro potvrzení k tomuto prostředku. |
| Částka k potvrzení (PTU) | Zvolte počet PTU, ke které se zavazujete. Toto číslo je možné během období závazku zvýšit, ale nedá se snížit. Zadejte hodnoty v přírůstcích po 50 pro typ závazku Zřízené. |
| Úroveň závazku pro aktuální období | Období závazku je nastavené na jeden měsíc. |
| Nastavení prodlužování platnosti | Autorenew ve společnosti current PTUs Automatické obnovení při nižších PTU Neaktualizovat automaticky |
Důležité
Nový závazek se fakturuje předem za celý termín. Pokud je nastavení pro prodloužení nastavené na automatické prodlužování platnosti, bude se vám znovu účtovat každé datum prodloužení na základě nastavení prodlužování platnosti.
Důležité
Když k závazku přidáte PTU, budou se fakturovat okamžitě na poměrnou částku od aktuálního data do konce stávajícího období závazku. Přidání PTU neobnovuje období závazku.
Změna nastavení prodlužování platnosti
Nastavení prodloužení závazku je možné kdykoli změnit před datem vypršení platnosti závazku.
Důležité
Pokud povolíte vypršení nebo snížení velikosti závazku tak, aby nasazení v rámci prostředku vyžadovala více PTU, než kolik máte v závazku k prostředkům, obdržíte poplatky za nadlimitní využití za všechny nadbytečné jednotky PTU po hodinách. Například prostředek, který má nasazení, které celkem 500 PTU a závazek pro 300 PTU generují poplatky za nadlimitní využití za 200 PTU po hodinách.
Běžné scénáře správy závazků
Ukončení používání zřízené propustnosti
Pokud chcete ukončit využití zřízené propustnosti a zabránit poplatkům za nadlimitní využití po vypršení platnosti závazku po hodinách, je potřeba provést dva kroky:
- Nastavte zásadu pro prodloužení všech závazků tak, aby se neaktualizovat automaticky.
- Odstraňte zřízená nasazení pomocí kvóty.
Přesun závazku nebo nasazení do nového prostředku ve stejném předplatném nebo oblasti
V Nástroji Azure OpenAI Studio není možné přesunout nasazení ani závazek k novému prostředku přímo. Místo toho je potřeba vytvořit nové nasazení v cílovém prostředku a přesunout do něj provoz. Tento proces vyžaduje nový nákup závazku u nového prostředku. Vzhledem k tomu, že se závazky účtují předem na 30denní období, je nutné tento krok s vypršením platnosti původního závazku minimalizovat překrývání s novým závazkem a "dvojité účtování" během překrývání.
K implementaci tohoto přechodu je možné použít dva přístupy.
Možnost 1: Přepínání bez překrývání
Tato možnost vyžaduje určitý výpadek, ale nevyžaduje žádnou dodatečnou kvótu a nevygeneruje žádné další náklady.
| Kroky | Notes |
|---|---|
| Nastavení zásad prodloužení u stávajícího závazku na vypršení platnosti | Tato akce brání závazku v prodloužení platnosti a generování dalších poplatků. |
| Před vypršením platnosti stávajícího závazku odstraňte jeho nasazení. | V tomto okamžiku se výpadek spustí a bude trvat až do vytvoření nového nasazení a přesune se provoz. Dobu trvání můžete minimalizovat tak, že se odstranění stane co nejblíže datu a času vypršení platnosti. |
| Po vypršení platnosti stávajícího závazku vytvořte pro nový prostředek závazek. | Minimalizujte výpadky provedením tohoto kroku a dalšího kroku co nejdříve po vypršení platnosti. |
| Vytvoření nasazení pro nový prostředek a přesun provozu do něj |
Možnost 2: Překryvný přepínač
Tato možnost nemá žádný výpadek tím, že stávající i nová nasazení budou aktivní současně. Tato metoda také vyžaduje, aby byla k dispozici kvóta pro vytvoření nového nasazení a vygenerovala další náklady během překrývajících se nasazení.
| Kroky | Notes |
|---|---|
| Nastavení zásad prodloužení u stávajícího závazku na vypršení platnosti | Tím zabráníte prodloužení závazku a vygenerování dalších poplatků. |
| Před vypršením platnosti stávajícího závazku: 1. Vytvořte závazek pro nový prostředek. 2. Vytvořte nové nasazení. 3. Přepnutí provozu 4. Odstranění existujícího nasazení |
Ujistěte se, že máte dostatek času na všechny kroky před vypršením platnosti stávajícího závazku, jinak se vygenerují poplatky za nadlimitní využití (viz další část). |