Typy nasazení pro modely Microsoft Foundry

Když nasadíte model v Microsoft Foundry, zvolíte typ nasazení, který určuje:

  • Kde se vaše data zpracovávají (globální, datová zóna nebo jedna oblast)
  • Způsob platby (platba za token nebo rezervovaná kapacita)
  • Charakteristiky výkonu (odchylka latence, limity propustnosti)

Služba nabízí dvě hlavní kategorie: standardní (platba za token) a zřízená (rezervovaná kapacita). V rámci každé kategorie můžete na základě požadavků na dodržování předpisů zvolit globální, datovou zónu nebo regionální zpracování.

Tip

Nemusíte vždy vytvářet nasazení. S okamžitým přístupem (Preview) voláte podporované modely podle názvu a spustíte odvozování okamžitě – nevyžaduje se žádné nasazení.

Snímek obrazovky s dialogovým oknem nasazení portálu Foundry zobrazující pole pro výběr typu nasazení s vybranou možností Global Standard

Důležité

Data residency pro všechny typy nasazení: Data uložená v klidu zůstávají v určené geografii Azure. Odvození dat se však zpracovává takto:

  • typy Global: Mohou být zpracovány v libovolné oblasti Azure
  • Typy DataZone: Služba zpracovává data pouze v rámci Microsoft zadané datové zóny (USA, EU nebo Asie a Tichomoří (APAC).
  • Standardní nebo regionální typy: Zpracované v oblasti nasazení

Zjistěte více o lokalizaci dat.

Porovnání typů nasazení

Typ nasazení Kód skladové položky Zpracování dat Fakturace Nejlepší pro
Okamžité (Preview) Není k dispozici – není potřeba žádné nasazení. Libovolná oblast Azure Platba za token (globální kvóta) Začínáme, vytváření prototypů, vyzkoušení nových modelů
Global Standard GlobalStandard Libovolná oblast Azure Platba za token Obecné úlohy, nejvyšší kvóta
Globální zajištění GlobalProvisionedManaged Libovolná oblast Azure Rezervovaný PTU Předvídatelná vysoká propustnost
Global Batch GlobalBatch Libovolná oblast Azure 50% sleva, 24 hodin Velké asynchronní úlohy
Standard datové zóny DataZoneStandard V rámci datové zóny Platba za token Dodržování předpisů v datových zónách EU/US/APAC
Zřízená datová zóna DataZoneProvisionedManaged V rámci datové zóny Rezervovaný PTU Datová zóna + předvídatelná propustnost
Dávka datové zóny DataZoneBatch V rámci datové zóny 50% sleva Velké asynchronní úlohy s datovou zónou
Standardní Standard Jedna oblast Platba za token Regionální dodržování předpisů, nízký objem
Regionálně nasazeno ProvisionedManaged Jedna oblast Rezervovaný PTU Regionální dodržování předpisů a propustnost
Vývojář DeveloperTier Libovolná oblast Azure Platba za token Pouze jemně vyladěné vyhodnocení modelu

Poznámka

Ne všechny modely podporují všechny typy nasazení. Podívejte se na Foundry Models sold by Azure, kde najdete dostupnost modelů podle typu nasazení a oblasti.

Poznámka

Záruky SLA se liší podle typu nasazení. Zřízené typy poskytují zaručenou propustnost a nižší odchylku latence. Standardní typy nabízejí službu s nejlepším úsilím. Nasazení vývojářů nezahrnují smlouvu SLA. Podrobnosti najdete v Azure SLA pro Azure OpenAI Service.

Tip

Podrobné informace o cenách najdete na stránce Azure OpenAI Service pricing.

Volba správného typu nasazení

K výběru typu nasazení použijte následující kritéria:

Podle požadavků na uchovávání dat v určitém místě

  • Žádná omezení: Použijte globální standard nebo globálně zřízené
  • Datová zóna EU: Použití standardu DataZone nebo DataZone zřízeného v regionu EU
  • Zóna dat USA: Použijte DataZone Standard nebo DataZone Provisioned v oblasti USA
  • Datová zóna APAC: Použijte DataZone Standard nebo DataZone Provisioned v regionu APAC.
  • Pouze jedna oblast: Použijte standardní nebo regionální předplatné

Podle vzoru úloh

  • Rychlý start, vytváření prototypů nebo vyzkoušení nového modelu: Použití okamžitého přístupu (Preview) ( bez nutnosti nasazení)
  • Proměnná, nárazový provoz: Použití standardního nebo globálního standardu (platba za token)
  • Konzistentní vysoký objem: Použití zřízených typů (rezervovaná kapacita)
  • Velké dávkové úlohy (nerozlišované podle času):: Používejte globální dávku nebo službu DataZone Batch (50% úspory nákladů)
  • Jemně vyladěné vyhodnocení modelu: Použijte možnost Vývojář (bez SLA, nejnižší náklady)

Podle požadavku na latenci

  • Je vyžadována nízká odchylka latence: Použijte zřízené typy
  • Přijatelná odchylka latence: Použití standardních typů

Umístění zpracování dat

Pro standardní nasazení existují tři možnosti: globální, datová zóna a Azure zeměpisné oblasti. Pro zřízená nasazení existují dvě možnosti: globální a Azure geografická oblast. Globální standard je běžným výchozím bodem pro většinu úloh.

Globální nasazení

Globální nasazení používají globální infrastrukturu Azure k dynamickému směrování provozu do dostupných datacenter. Globální nasazení nabízejí nejvyšší limity počáteční propustnosti a nejširší dostupnost modelu.

U úloh s velkým objemem můžete zaznamenat zvýšenou latenci. Pokud ve velkém vyžadujete nižší odchylku latence, použijte zřízené typy nasazení.

Globální implementace dostávají nové modely a funkce jako první.

Nasazení datových zón

U typů globálního nasazení můžou být výzvy a odpovědi zpracovány v libovolné geografické oblasti, ve které je model nasazený. U typů nasazení DataZone se výzvy a odpovědi zpracovávají pouze v zadané zóně dat:

  • USA: Data zpracovávaná kdekoli v USA
  • Evropská unie: Údaje zpracovávané v rámci hranice údajů EU
  • Asie a Tichomoří: Data zpracovávaná v rámci datové zóny APAC (Austrálie, Japonsko, Korea, Singapur, Indie)

Datová zóna EU zpracovává data v oblastech nacházejících se v zemích, na které se vztahuje Hranice dat EU v Azure. Od května 2026 to zahrnuje oblasti: Francie, Německo, Itálie, Nizozemsko, Norsko, Polsko, Španělsko, Švédsko a Švýcarsko. Další oblasti v rámci hranice údajů EU mohou být přidány bez předchozího upozornění, aby se zlepšila kapacita a dostupnost.

Zóna dat APAC zpracovává data v oblastech umístěných v Austrálii, Japonsku, Koreji, Singapuru a Indii. Do datové zóny APAC je možné přidat další oblasti bez předchozího upozornění, aby se zlepšila kapacita a dostupnost.

Další informace najdete v části Dostupnost oblasti modelu podle typu nasazení Foundry Models sold by Azure.

Poznámka

Pokud u typů nasazení Global Standard a Data Zone Standard dochází k přerušení provozu v primární oblasti, bude to mít vliv na veškerý provoz původně směrovaný do této oblasti. Další informace najdete v průvodci vysokou dostupností a zotavením po havárii.

Global Standard

  • Název skladové položky v kódu: GlobalStandard

Globální nasazení standardu používají globální infrastrukturu Azure k dynamickému směrování provozu do dostupných datacenter. Tento typ nasazení poskytuje nejvyšší výchozí kvótu a eliminuje potřebu vyrovnávání zatížení napříč několika prostředky.

Zákazníci s vysokým objemem můžou zaznamenat větší variabilitu latence. Prahová hodnota je nastavená pro každý model. Další informace najdete na stránce Kvóty. U aplikací, které vyžadují nižší odchylku latence při velkém využití úloh, zvažte zřízenou propustnost.

Global Standard podporuje zpracování priority (Preview) pro rychlejší dobu odezvy při průběžných platbách. Další informace najdete v tématu Prioritní zpracování modelů Foundry (preview).

Globální zajištění

  • Název skladové položky v kódu: GlobalProvisionedManaged

Globální zřízená nasazení používají globální infrastrukturu Azure k dynamickému směrování provozu do dostupných datacenter. Tento typ nasazení poskytuje rezervovanou kapacitu zpracování modelů pro předvídatelnou propustnost, která kombinuje globální směrování se zaručenou kapacitou.

Při zřízené propustnosti si zakoupíte pevný počet zřízených jednotek propustnosti (PTU), které zaručují konkrétní úroveň kapacity zpracování. Tento typ nasazení poskytuje nižší a konzistentnější latenci než globální standard. Další informace najdete v tématu Koncepty zřízené propustnosti.

Globální šarže

  • Název skladové položky v kódu: GlobalBatch

Globální služba Batch zpracovává úlohy rozsáhlého a vysokoobjemového zpracování. Asynchronní skupiny požadavků s samostatnou kvótou a 24hodinovým cílovým turnaroundem můžete zpracovat s 50% nižšími náklady než globální standard. Při dávkovém zpracování místo odesílání jednoho požadavku najednou odešlete velký počet požadavků v jednom souboru. Globální požadavky služby Batch mají samostatnou kvótu tokenů, která zabraňuje přerušení online úloh.

Běžné případy použití:

  • Rozsáhlé zpracování dat: Paralelní analýza datových sad
  • Generování obsahu: Umožňuje vytvářet velké objemy textu, jako jsou popisy produktů nebo články.
  • Kontrola a shrnutí dokumentů: Zpracování a shrnutí dlouhých dokumentů
  • Automatizace zákaznické podpory: Zpracování mnoha dotazů současně
  • Extrakce a analýza dat: Extrahujte a analyzujte informace z velkých objemů nestrukturovaných dat.
  • Úlohy zpracování přirozeného jazyka (NLP): Provádění analýzy mínění nebo překladu u velkých datových sad

Poznámka

Dávkové nasazení vymění odezvu v reálném čase za úsporu nákladů. Dávkové požadavky nemají SLA v reálném čase – jejich cílem je dokončení do 24 hodin, ale mohou trvat déle.

Standard datové zóny

  • Název skladové položky v kódu: DataZoneStandard

Nasazení data Zone Standard dynamicky směrují provoz do datacenter v rámci Microsoft definované datové zóny (USA, EU nebo APAC). Tento typ nasazení poskytuje vyšší výchozí kvóty než typy nasazení založené na zeměpisné oblasti a přitom uchovávají data v zadané zóně.

Zákazníci s vysokým objemem můžou zaznamenat větší variabilitu latence. Prahová hodnota je nastavená pro každý model. Další informace najdete na stránce kvót a omezení. U úloh, které vyžadují nízkou variabilitu latence při velkém objemu, zvažte zřízené typy nasazení.

Data Zone Standard podporuje prioritní zpracování pro rychlejší dobu odezvy při platbě podle využití. Další informace najdete v tématu Prioritní zpracování modelů Foundry (preview).

Zřízená datová zóna

  • Název skladové položky v kódu: DataZoneProvisionedManaged

Nasazení typu Data Zone Provisioned dynamicky směrují provoz v rámci datové zóny určené společností Microsoft (US, EU nebo APAC) a současně poskytují vyhrazenou kapacitu pro zpracování modelu. Tento typ nasazení kombinuje dodržování předpisů v zóně dat s vysokou a předvídatelnou propustností.

Dávka datové zóny

  • Název skladové položky v kódu: DataZoneBatch

Nasazení datové zóny Batch poskytují stejné funkce jako Global Batch, včetně 50% úspor nákladů a 24hodinové doby zpracování. Provoz se směruje jenom do datových center v Microsoft definované zóně dat (USA, EU nebo APAC).

Standard

  • Název skladové položky v kódu: Standard

Standardní nasazení používají fakturaci za tokeny. Platíte jenom za to, co spotřebováváte. Modely dostupné v jednotlivých oblastech a propustnost může být omezená.

Standardní nasazení jsou vhodná pro úlohy s nízkými až středními objemy s vysokou nárazovou zátěží. Zákazníci s vysokým objemem můžou zaznamenat větší variabilitu latence.

Poskytnuto regionálně

  • Název skladové položky v kódu: ProvisionedManaged

Regionální nasazení s předem stanovenou kapacitou vám umožní určit množství požadované propustnosti v nasazení. Služba pak přidělí potřebnou kapacitu zpracování modelu a zajistí, že je pro vás připravená. Propustnost se definuje z hlediska zřízených jednotek propustnosti (PTU), což je normalizovaný způsob reprezentace propustnosti pro vaše nasazení. Každý pár verzí modelu vyžaduje k nasazení různé množství PTU a poskytuje různé objemy propustnosti podle PTU. Minimální požadavky PTU se liší podle modelu. Aktuální minimum a dostupnou kapacitu najdete v tématu Koncepty zřízené propustnosti.

Vývojář (pro jemně vyladěné modely)

  • Název skladové položky v kódu: DeveloperTier

Typ nasazení pro vývojáře je určen pouze pro přesné vyhodnocení modelů. Poskytuje nákladově efektivní testování vlastních modelů, ale nezahrnuje záruky rezidence dat ani smlouvu SLA. Nasazení vývojářů mají pevnou 24hodinovou životnost a po vypršení platnosti se automaticky odstraní. Další informace o použití typu vývojářského nasazení najdete v průvodci vyladěním.

Řešení potíží s nasazením

Běžné problémy při vytváření nebo používání nasazení:

Problém Příčina Rozlišení
Typ nasazení není k dispozici. Model nepodporuje vybraný typ. Kontrola dostupnosti modelu podle typu nasazení
Překročení kvóty Dosažení limitu předplatného pro tokeny za minutu Vyžádání navýšení kvóty na portálu Azure nebo použití jiné oblasti
Oblast není k dispozici Model není nasazený ve vybrané oblasti Výběr oblasti ze seznamu dostupnosti modelu
Zřízená kapacita není k dispozici Žádná kapacita PTU v oblasti Zkuste jinou oblast nebo použijte Global Provisioned pro širší dostupnost.

Omezení kvót podle typu nasazení najdete v tématu Kvóty a limity modelů Foundry.

Omezení typů nasazení pomocí Azure Policy

Azure Policy pomáhá vynucovat standardy organizace a vyhodnocovat dodržování předpisů ve velkém měřítku. Prostřednictvím přehledu souladu můžete vyhodnotit celkový stav prostředí a podrobněji se zaměřit na jednotlivé prostředky a zásady. Azure Policy také podporuje hromadnou nápravu stávajících prostředků a automatickou nápravu nových prostředků. Vyučte si další informace o Azure Policy a konkrétních integrovaných ovládacích prvcích pro Foundry Tools.

Pomocí následujících zásad zakažte přístup ke konkrétnímu typu nasazení Foundry. Nahraďte GlobalStandard názvem skladové položky pro typ nasazení, který chcete omezit.

{
    "mode": "All",
    "policyRule": {
        "if": {
            "allOf": [
                {
                    "field": "type",
                    "equals": "Microsoft.CognitiveServices/accounts/deployments"
                },
                {
                    "field": "Microsoft.CognitiveServices/accounts/deployments/sku.name",
                    "equals": "GlobalStandard"
                }
            ]
        }
    }
}