Poznámka:
Přístup k této stránce vyžaduje autorizaci. Můžete se zkusit přihlásit nebo změnit adresáře.
Přístup k této stránce vyžaduje autorizaci. Můžete zkusit změnit adresáře.
Tento článek poskytuje rychlý přehled a podrobný popis kvót a limitů pro modely Foundry prodávané společností Azure. Kvóty a omezení specifická pro Azure OpenAI v modelech Foundry najdete v tématu Kvóty a omezení v Azure OpenAI.
Správa kvót na úrovni předplatného
Důležité
Správa kvót na úrovni předplatného v Microsoft Foundry začala po 7. květnu 2026.
Počínaje službami Realtime Translate a Realtime Whisper a brzy i všemi ostatními modely sleduje Foundry kvótu nasazení na úrovni předplatného namísto na úrovni jednotlivých prostředků nebo oblastí. Tento přístup přináší konzistenci a předvídatelnost toho, jak se kvóta spravuje napříč nasazeními, protože všechny prostředky a oblasti v předplatném sdílejí stejný fond kvót.
Tato změna konsoliduje kvótu do sdílených fondů:
- Globální standard: Nasazení stejného modelu a verze sdílejí jeden společný fond kvót ve všech regionech v rámci předplatného.
- Data Zone Standard: Nasazení stejného modelu a verze sdílejí jeden fond kvót pro každou datovou zónu (například USA nebo EU).
Kontrola rozsahu správy kvót
Systém správy kvót, který se vztahuje na daný model, najdete tak, že přejdete na stránku Kvóta portálu Foundry. Hodnota ve sloupci Obor pro daný model udává, jak Foundry spravuje kvótu pro tento model. Hodnota rozsahu:
- Globálnízóna nebo zóna dat označuje správu kvót na úrovni předplatného.
- Oblast (například USA – východ nebo USA – západ) označuje správu kvót pro jednotlivé oblasti pro toto předplatné a model.
Změny pro onboardované modely
Pro modely, které jsou nasazené do systému správy kvót na úrovni předplatného:
- Všechna nasazení globálního standardu stejného modelu a verze v rámci předplatného teď pocházejí z jednoho sdíleného fondu kvót ve všech oblastech.
- Všechna nasazení Data Zone Standard stejného modelu a verze v rámci předplatného nyní čerpají ze sdíleného fondu kvót v rámci každé datové zóny.
- Stávající schválená kvóta se zachová a automaticky se uplatní na úrovni předplatného – nevyžaduje se žádná akce.
Tato konsolidace umožňuje Microsoft Foundry nabízet podporované modely konzistentně napříč všemi oblastmi Foundry bez ohledu na to, jak se kvóta distribuuje napříč prostředky nebo oblastmi.
Omezení kvót při upgradu modelu
Při upgradu existujícího modelu se jeho nový limit kvóty globální zóny nebo datové zóny nastaví na vyšší hodnotu:
- Platný limit úrovně.
- Celková kvóta přiřazená všem existujícím nasazením tohoto modelu v rámci oboru kvóty.
Pokud má například model nasazení globálního standardu napříč pěti oblastmi, nový globální limit kvóty se rovná kombinované kvótě těchto nasazení, pokud tento celkový součet překročí limit úrovně. Jinak platí limit úrovně.
Referenční informace o kvótách a omezeních
Důležité
Tato část řeší kvótu pro modely, které nejsou nasazené do systému správy kvót na úrovni předplatného. Informace o onboardovaných modelech najdete v tématu Správa kvót na úrovni předplatného.
Následující části obsahují stručnou příručku k výchozím kvótám a omezením, které platí pro modely Foundry. Kvóty a limity se nevynucují na úrovni klienta. Místo toho je nejvyšší úroveň omezení kvóty vymezená na úrovni Azure předplatného. Limity tokenů za minutu (TPM) a žádosti za minutu (RPM) se definují v jednotlivých oblastech, na předplatné a na model nebo typ nasazení.
Limity prostředků (na předplatné Azure a oblast)
| Název limitu | Mezní hodnota |
|---|---|
| Prostředky služby Foundry podle oblasti a podle předplatného Azure | 100 |
| Maximální počet projektů na zdroj | 250 |
| Maximální počet nasazení na zdroj (nasazení modelu v rámci zdroje Foundry) | 32 |
Omezení rychlosti
Následující tabulka uvádí omezení pro modely Foundry pro následující sazby:
- Tokeny za minutu
- Žádosti za minutu
- Souběžný požadavek
| Modely | Tokeny za minutu | Žádosti za minutu | Souběžné požadavky |
|---|---|---|---|
| Modely OpenAI v Azure | Liší se podle modelu a skladové položky. Podívejte se na limity pro Azure OpenAI. | Liší se podle modelu a skladové položky. Podívejte se na limity pro Azure OpenAI. | Mění se. Viz Azure OpenAI limity. |
| - DeepSeek-R1 - DeepSeek-V3-0324 |
5,000,000 | 5,000 | 300 |
| - Llama 3.3 70B Pokyny - Llama-4-Maverick-17B-128E-Instruct-FP8 - Grok 3 - Grok 3 mini |
400,000 | 1,000 | 300 |
| - Flux.2-Pro | nejde použít | - Nízká (výchozí): 15 - Střední: 30 - Vysoké (Podnikové): 100 |
nejde použít |
| - Flux-Pro 1,1 - Flux.1-Kontext Pro |
nejde použít | 2 jednotky kapacity (6 požadavků za minutu) | nejde použít |
| Zbytek modelů | 400,000 | 1,000 | 300 |
Pokud chcete zvýšit kvótu, použijte Microsoft Foundry Service: Žádost o navýšení kvóty a odešlete žádost. Kvůli vysoké poptávce se požadavky na navýšení kvóty vyhodnocují jednotlivě. Další informace o žádostech o navýšení kvóty najdete v tématu Zvýšení požadavků na výchozí limity.
Další limity
| Název limitu | Mezní hodnota |
|---|---|
| Maximální počet vlastních hlaviček v požadavcích rozhraní API1 | 10 |
1 Aktuální rozhraní API umožňují až 10 vlastních hlaviček, které kanál předává a vrací. Pokud tento počet hlaviček překročíte, výsledkem vašeho požadavku je chyba HTTP 431. Pokud chcete tuto chybu vyřešit, snižte objem záhlaví. Budoucí verze rozhraní API neprojdou vlastními hlavičkami. V budoucích systémových architekturách nespoléhejte na vlastní hlavičky.
Úrovně využití
Nasazení globálního standardu využívají globální infrastrukturu Azure k dynamickému směrování síťového provozu zákazníků do datového centra s nejlepší dostupností pro požadavky na inferenci zákazníka. Tato infrastruktura umožňuje konzistentnější latenci pro zákazníky s nízkou až střední úrovní provozu. Zákazníci s vysokou trvalou úrovní využití můžou vidět více variabilit v latenci odezvy.
Limit využití určuje úroveň využití, nad kterou můžou zákazníci pozorovat větší variabilitu latence odezvy. Využití zákazníka je definováno na model a je celkový počet tokenů spotřebovaných napříč všemi nasazeními ve všech předplatných ve všech oblastech daného tenanta.
Požadavek se zvýší na výchozí limity.
Odešlete formulář žádosti o navýšení kvóty a požádejte o navýšení kvót pro modely Foundry prodávané společností Azure, modely Azure OpenAI a modely Anthropic. S výjimkou modelů Anthropic modely od partnerů a komunity nepodporují zvýšení kvóty.
Žádosti o navýšení kvóty se zpracovávají v pořadí, v jakém jsou přijaty, a priorita přechází na zákazníky, kteří aktivně používají jejich stávající přidělení kvóty. Žádosti, které nesplňují tuto podmínku, můžou být odepřeny.
Obecné osvědčené postupy pro dosažení limitů četnosti
Pokud chcete minimalizovat problémy související s limity rychlosti, použijte následující techniky:
- Implementujte logiku opakování ve vaší aplikaci.
- Vyhněte se ostrým změnám v úloze. Postupně zvyšte zatížení.
- Otestujte různé vzory zvýšení zatížení.
- Zvyšte kvótu přiřazenou k vašemu nasazení. V případě potřeby přesuňte kvótu z jiného nasazení.
Nastavení časového limitu na straně klienta
Nastavte explicitně časový limit na straně klienta na základě následujících pokynů.
Poznámka
Pokud není explicitně nastavená, časový limit na straně klienta existuje podle použité knihovny a nemusí být stejné limity jako výše.
- Modely odůvodnění (modely, které před vytvořením souhrnné odpovědi generují přechodné tokeny zdůvodnění): až 29 minut.
- Modely bez odůvodnění:
- U streamování je to až 60 sekund.
- U požadavků, které nejsou streamované, je to až 29 minut.
29 minut tady neznamená, že všechny požadavky zabírají 29 minut, ale v závislosti na kontextových tokenech, generovaných tokenech a rychlosti dosažení mezipaměti můžou žádosti trvat až 29 minut.
Nastavte časový limit, který je menší než tyto hodnoty, vyladěný na vzory provozu.
Z důvodu odůvodnění modelů, včetně požadavků na streamování, se nejprve vygenerují všechny zdůvodnění tokenů a pak se shrnou před odesláním prvního tokenu odpovědi zpět uživateli.
Parametr důvodového úsilí můžete upravit tak, aby kontroloval počet tokenů odůvodnění vygenerovaných v procesu.
Řešení potíží
| Příznak | Příčina | Rozlišení |
|---|---|---|
| Http 429 – Příliš mnoho požadavků | Překročení limitu tokenu za minutu nebo požadavku za minutu | Implementujte logiku opakování s exponenciálním zpožděním. Použijte hodnotu záhlaví Retry-After. |
| Příliš velká pole hlavičky požadavku HTTP 431 | Odesláno více než 10 vlastních hlaviček | Snižte počet hlaviček na 10 nebo méně. |
| Stránka kvóta zobrazuje 0 položek dostupných | Předplatné nebo regionální kvóta plně přidělena | Přesun nevyužité kvóty z jiného nasazení Pokud chcete limit zvýšit, požádejte o navýšení kvóty. |
| Model není k dispozici v oblasti | Ve vybrané oblasti se model nenasazuje ani nepodporuje. | Zkontrolujte dostupnost modelu a zvolte dostupnou oblast. |