Kommentar
Åtkomst till den här sidan kräver auktorisering. Du kan prova att logga in eller ändra kataloger.
Åtkomst till den här sidan kräver auktorisering. Du kan prova att ändra kataloger.
Foundry Agent Service tillämpar kvoter och gränser för agentartefakter, filuppladdningar, meddelanden och verktygsregistreringar. Att förstå dessa gränser hjälper dig att utforma program som skalas utan att nå tjänstgränserna. Den här artikeln innehåller standardgränser, regioner som stöds, kompatibla modeller och vägledning för hantering av gränsfel.
Observera
Foundry Agent Service är nu allmänt tillgänglig (GA). Vissa underfunktioner finns i offentlig förhandsversion och kan ha olika begränsningar.
Förutsättningar
- Ett Azure-abonnemang.
- Ett Microsoft Foundry-projekt.
- En distribuerad modell som är kompatibel med Agent Service. Modell- och regionstillgängligheten kan variera.
Regioner som stöds
Följande tabell visar regional support för Responses API, agenter och privata IP-adressintervall av klass A.
| Region | API för respons | Agenter | Klass A* |
|---|---|---|---|
| Australia East | Yes | Yes | Yes |
| Brasilien, södra delen | Yes | Yes | Yes |
| Canada Central | Yes | Yes | No |
| Canada East | Yes | Yes | Yes |
| centrala USA | Yes | Yes | Yes |
| östra USA | Yes | Yes | Yes |
| USA, östra delen 2 | Yes | Yes | Yes |
| Frankrike centralt | Yes | Yes | Yes |
| Tyskland Västcentral | Yes | Yes | Yes |
| Italy North | Yes | Yes | Yes |
| Japan Öst | Yes | Yes | Yes |
| Japan West | Yes | Yes | No |
| Korea Central | Yes | Yes | Yes |
| Norra centrala USA | Yes | Yes | Yes |
| Norge, östra | Yes | Yes | No |
| Centrala Polen | Yes | Yes | No |
| Sydafrika Nord | Yes | Yes | Yes |
| Södra centrala USA | Yes | Yes | Yes |
| Southeast Asia | Yes | Yes | Yes |
| Södra Indien | Yes | Yes | Yes |
| Spain Central | Yes | Yes | Yes |
| Sweden Central | Yes | Yes | Yes |
| Switzerland North | Yes | Yes | No |
| Switzerland West | Yes | Yes | No |
| UAE North | Yes | Yes | Yes |
| UK South | Yes | Yes | Yes |
| Västra centrala USA | Yes | Yes | No |
| West Europe | Yes | Yes | Yes |
| West US | Yes | Yes | Yes |
| Västra USA 3 | Yes | Yes | Yes |
* Klass A avser stöd för privata IP-adressintervall för klass A (10.x.x.x). Relaterade nätverkskrav finns i Regionalt stöd för privata nätverk.
Vissa Azure OpenAI-modeller är inte tillgängliga i alla regioner. Mer information finns i Regiontillgänglighet för Foundry-modeller som säljs av Azure.
Viktigt
Alla verktyg är inte tillgängliga i alla regioner. Filsökning är till exempel inte tillgängligt i Italien, norra och Brasilien, södra. Den fullständiga matrisen för verktyg per region finns i Verktygsstöd per region och modell.
Regionalt stöd för privata nätverk
När du använder en privat nätverkskonfiguration, till exempel en nätverksskyddad standardagent, gäller följande regionala krav:
- Foundry-resurs och virtuell nätverksregion. Du måste distribuera Foundry-resursen i samma region som dess virtuella nätverk. Du kan distribuera andra Azure resurser, till exempel Azure Cosmos DB, Azure AI-sökning och Azure Storage, i olika regioner. Överväg kostnadskonsekvenserna för distributioner mellan regioner.
- Grundstötning med Bing Search. Endast följande regioner stöds: Europa, västra, Kanada, östra, Schweiz, norra, Spanien, centrala, Förenade Arabemiraten, Centrala, Korea, centrala, Polen, centrala, Sydostasien, USA, västra, USA, västra 2, USA, västra 3, USA, östra, USA, östra 2, USA, centrala, Indien, södra, Japan, östra, Storbritannien, södra, Frankrike, centrala, Norge, östra, Australien, östra, Kanada, centrala, Sverige, centrala, Sydafrika, norra, Italien, norra, Brasilien, södra.
Mer information finns i Använda ett virtuellt nätverk med Foundry Agent Service.
Modeller som stöds
Agent Service stöder Azure OpenAI-modeller och flera Foundry-modeller som säljs av Azure. Modelltillgängligheten kan ändras över tid och varierar beroende på region. Om du vill se en fullständig lista över modeller som du kan distribuera för ditt projekt och din region använder du foundry-portalens modellupplevelse.
Suveräna moln
Foundry Agent Service finns också i Azure Government (US Gov Virginia och US Gov Arizona) med en delmängd av agenttyper och verktyg. En fullständig lista över funktioner som stöds finns i Tillgänglighet för Foundry Agent Service-funktioner i Azure Government.
Verktygsstöd efter region och modell
Region och modell avgör vilka verktyg som är tillgängliga för din agent. I följande tabeller innebär Ja fullt stöd, Nej betyder inte stöds och Begränsad innebär partiellt stöd som varierar beroende på verktygskonfiguration. Mer information finns i dokumentationen för enskilda verktyg.
I följande tabell visas vilka verktyg som är tillgängliga i varje region som stöds. Den här tabellen står bara för tjänsttillgänglighet, så se till att den modell som du vill använda också är tillgänglig i samma region.
Klicka för att expandera
| Region | Agent2Agent | Azure AI-sökning | Webbläsarautomatisering | Kodtolkare | Datoranvändning | Fabricdataagent | Filsökning | Function | Förankring med Bing Custom Search | Förankring med Bing-sökning | Bildgenerering | MCP | OpenAPI | SharePoint | Web Search |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Australia East | yes | yes | yes | yes | no | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| Brasilien, södra delen | yes | yes | yes | yes | no | yes | no | no | yes | yes | yes | yes | yes | yes | yes |
| Canada East | yes | yes | yes | yes | no | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| östra USA | yes | yes | yes | yes | no | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| USA, östra delen 2 | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| Frankrike centralt | yes | yes | yes | yes | no | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| Tyskland Västcentral | yes | yes | yes | yes | no | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| Italy North | yes | yes | yes | yes | no | yes | no | yes | yes | yes | yes | yes | yes | yes | yes |
| Japan Öst | yes | yes | yes | yes | no | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| Korea Central | yes | yes | yes | yes | no | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| Norra centrala USA | yes | yes | yes | yes | no | yes | yes | no | yes | yes | yes | yes | yes | yes | yes |
| Norge, östra | yes | yes | yes | yes | no | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| Centrala Polen | yes | yes | yes | yes | no | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| Sydafrika Nord | yes | yes | yes | yes | no | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| Södra centrala USA | yes | yes | yes | yes | no | yes | yes | no | yes | yes | yes | yes | yes | yes | yes |
| Southeast Asia | yes | yes | yes | yes | no | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| Södra Indien | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| Spain Central | yes | yes | yes | yes | no | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| Sweden Central | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| Switzerland North | yes | yes | yes | yes | no | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| UAE North | yes | yes | yes | yes | no | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| UK South | yes | yes | yes | yes | no | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
| West US | yes | yes | yes | yes | no | yes | yes | no | yes | yes | yes | yes | yes | yes | yes |
| Västra USA 3 | yes | yes | yes | yes | no | yes | yes | yes | yes | yes | yes | yes | yes | yes | yes |
I följande tabell visas vilka verktyg som varje modell stöder. För verktyget för bildgenerering behöver du både gpt-image-1 modellen och en stor språkmodell (LLM) som orkestrerare i samma Microsoft Foundry-projekt.
Klicka för att expandera
| Modell | Agent2Agent | Azure AI-sökning | Azure Functions | Grunder för Bing Custom | Grundläggning av Bing-sökning | Webbläsarautomatisering | Kodtolkare | Datoranvändning | Fabricdataagent | Filsökning | Functions | Bildgenerering | MCP | OpenAPI | SharePoint | Web Search | Arbets-IQ (förhandsversion) |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Cohere-command-r | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| Cohere-command-r-plus | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| DeepSeek-R1-0528 | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| DeepSeek-V3-0324 | No | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| DeepSeek-V3.1 | No | No | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| FW-DeepSeek-V3.1 | No | Yes | No | No | No | No | Yes | No | Yes | Yes | No | No | Yes | Yes | No | Yes | Yes |
| FW-DeepSeek-V3.2 | No | Yes | No | No | No | No | Yes | No | Yes | Yes | No | No | Yes | Yes | No | Yes | Yes |
| FW-GLM-4.7 | No | Yes | No | No | No | No | Yes | No | Yes | Yes | No | No | Yes | Yes | No | Yes | Yes |
| FW-GLM-5 | No | Yes | No | No | No | No | Yes | No | Yes | Yes | No | No | Yes | Yes | No | Yes | Yes |
| FW-GLM-5.1 | No | Yes | No | No | No | No | Yes | No | Yes | Yes | No | No | Yes | Yes | No | Yes | Yes |
| FW-GPT-OSS-120B | No | Yes | No | No | No | No | Yes | No | Yes | Yes | No | No | Yes | Yes | No | Yes | Yes |
| FW-Kimi-K2-Instruct-0905 | No | Yes | No | No | No | No | Yes | No | Yes | Yes | No | No | Yes | Yes | No | Yes | Yes |
| FW-Kimi-K2-Thinking | No | Yes | No | No | No | No | Yes | No | Yes | Yes | No | No | Yes | Yes | No | Yes | Yes |
| FW-Kimi-K2.5 | No | No | No | No | No | No | Yes | No | Yes | Yes | No | No | Yes | Yes | No | Yes | Yes |
| FW-Kimi-K2.6 | No | No | No | No | No | No | Yes | No | Yes | Yes | No | No | Yes | Yes | No | Yes | Yes |
| FW-MiniMax-M2.5 | No | Yes | No | No | No | No | Yes | No | Yes | Yes | No | No | Yes | Yes | No | Yes | Yes |
| FW-Qwen3.5-122B-A10B | No | Yes | No | No | No | No | Yes | No | Yes | Yes | No | No | Yes | Yes | No | Yes | Yes |
| FW-Qwen3.5-397B-A17B | No | Yes | No | No | No | No | Yes | No | Yes | Yes | No | No | Yes | Yes | No | Yes | Yes |
| GROK-4-20-REASONING | No | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| Llama-3.3-70B-Instruct | No | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| Llama-4-Maverick-17B-128E-Instruct-FP8 | No | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| Llama-4-Scout-17B-16E-Instruct | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| MAI-DS-R1 | Yes | No | No | No | No | Yes | Yes | No | No | Yes | Yes | No | Yes | No | No | No | No |
| Meta-Llama-3.1-405B-Instruct | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| Mistral-large-2407 | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| codex-mini | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| computer-use-preview | No | No | No | No | No | No | No | Yes | No | No | No | No | No | No | No | No | No |
| gpt-35-turbo | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| gpt-4 | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | Yes |
| gpt-4.1 | Yes | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| gpt-4.1-mini | Yes | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| gpt-4.1-nano | Yes | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| gpt-4.5-preview | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| gpt-4o | Yes | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| gpt-4o-mini | Yes | No | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| gpt-5 | Yes | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes | Yes | Yes | Yes | Yes |
| gpt-5-chat | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | Yes |
| gpt-5-codex | No | No | No | No | No | No | Yes | No | No | Yes | No | No | Yes | No | No | No | Yes |
| gpt-5-mini | No | No | No | No | No | No | Yes | No | No | Yes | No | No | Yes | No | No | Yes | Yes |
| gpt-5-nano | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | Yes |
| GPT-5-Pro | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| gpt-5.1 | No | Yes | Yes | No | Yes | No | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| gpt-5.1-chat | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| gpt-5.1-codex | No | No | No | No | No | No | Yes | No | No | Yes | No | No | Yes | No | No | No | Yes |
| gpt-5.1-codex-max | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| gpt-5.1-codex-mini | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| gpt-5.2 | No | Yes | Yes | No | Yes | No | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| gpt-5.2-chat | Yes | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | No | Yes | Yes |
| gpt-5.2-codex | No | No | No | No | No | No | Yes | No | No | Yes | No | No | Yes | No | No | No | Yes |
| gpt-5.3-chat | Yes | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | No | No | Yes | Yes | Yes | Yes | Yes |
| gpt-5.3-codex | Yes | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | No | No | Yes | Yes | Yes | Yes | Yes |
| gpt-5.4 | Yes | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | No | No | Yes | Yes | Yes | Yes | Yes |
| gpt-5.4-mini | Yes | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | No | No | Yes | Yes | Yes | Yes | Yes |
| gpt-5.4-nano | Yes | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | No | No | Yes | Yes | Yes | Yes | Yes |
| gpt-5.4-pro | Yes | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | No | No | Yes | Yes | Yes | Yes | Yes |
| gpt-5.5 | Yes | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | No | No | Yes | Yes | Yes | Yes | Yes |
| senaste versionen av GPT-chat | Yes | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | No | No | Yes | Yes | Yes | Yes | Yes |
| gpt-oss-120b | No | No | No | No | No | No | Yes | No | No | Yes | Yes | No | Yes | No | No | No | Yes |
| grok-3 | No | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| grok-3-mini | No | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| grok-4 | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| grok-4-1-snabb-utan-resonemang | No | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| grok-4-1-snabb-resonemang | No | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| grok-4-20-icke-resonemang | No | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| grok-4-20-resonemang | No | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| grok-4-fast-non-reasoning | No | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| grok-4-fast-reasoning | No | Yes | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | Yes | Yes |
| mistral-small-2503 | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| modellrouter | No | No | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes |
| o1 | No | Yes | No | Yes | No | Yes | Yes | No | No | Yes | Yes | No | Yes | No | Yes | Yes | Yes |
| o1-mini | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| Förhandsvisning o1 | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| o3 | Yes | Yes | No | Yes | No | Yes | Yes | No | Yes | Yes | Yes | No | Yes | Yes | No | Yes | Yes |
| o3-deep-research | No | No | No | No | No | No | No | No | No | No | No | No | Yes | No | No | Yes | Yes |
| o3-mini | Yes | No | No | Yes | Yes | Yes | Yes | No | Yes | Yes | No | No | No | No | No | No | Yes |
| o3-pro | No | No | No | No | No | No | Yes | No | No | Yes | No | No | No | No | No | No | No |
| o4-mini | Yes | No | No | Yes | Yes | Yes | Yes | No | Yes | Yes | Yes | No | Yes | No | Yes | Yes | Yes |
Felsökning
En modell eller version är inte tillgänglig i din region
- Bekräfta att du har valt den rätta fliken för din distributionstyp (global standard jämfört med tilldelad).
- Prova en annan region som stöder modell- och svars-API:et.
- Om du använder gpt-5-modeller krävs registrering . Åtkomst beviljas enligt Microsoft berättigandekriterier.
Ett verktyg är inte tillgängligt i din region
- Alla verktyg stöds inte i alla regioner. Filsökning är till exempel inte tillgängligt i Italien, norra och Brasilien, södra.
- Kontrollera verktygets stöd efter region och modelltabell för att bekräfta tillgängligheten innan du distribuerar.
- Om ett verktyg inte är tillgängligt väljer du en region som stöds eller använder ett annat verktyg.
Implementering av tillhandahållen genomströmning misslyckas
- Bekräfta att du har tillräckligt med tillgängliga PTU:er i regionen.
- Granska Etablerat dataflöde och Spillover-trafikhantering.
Agenten får hastighetsbegränsningsfel (429)
- Implementera exponentiell backoff med jitter i programmets återförsökslogik.
- För varaktiga arbetsbelastningar med högt dataflöde bör du överväga distributioner av etablerat dataflöde.
- Granska Azure OpenAI-kvoter och -gränser för distributionens begränsningar för token per minut och begäranden per minut.
Så här tillämpar agenttjänsten gränser
Foundry Agent Service tillämpar gränser på två platser:
- Gränser för agenttjänsten. Gränser för agent- och trådartefakter, till exempel filuppladdningar, bifogade filer i vektorarkivet, antal meddelanden och verktygsregistrering.
- Modellgränser. Kvoter och taktbegränsningar för de modelldistributioner som dina agenter anropar.
Artefakterna som dessa gränser styr lagras i antingen Microsoft hanterad lagring eller dina egna Azure resurser, beroende på din konfiguration.
Där Agent Service lagrar dina data
Var dina agentdata finns beror på vilket konfigurationsalternativ du väljer. Konfigurationsalternativet avgör också vilka resurser kvoterna och gränserna i den här artikeln gäller för.
- Grundläggande konfiguration lagrar agenttillstånd i säker, Microsoft hanterad lagring som är logiskt avgränsad. Detta är standard när du inte konfigurerar dina egna resurser.
- Standardkonfigurationen lagrar agenttillstånd i kundhanterade Azure-resurser som är dedikerade för en enda kund i din egen prenumeration, vilket ger dig fullständig kontroll över datalagringsplats och åtkomst.
| Datatyp | Grundläggande konfiguration | Standardkonfiguration |
|---|---|---|
| Filer, uppladdningar och bifogade filer | Microsoft hanterad lagring | Azure Storage (Blob Storage) |
| Vektorlager, inbäddningar och hämtningsindex | Microsoft-hanterad vektorsökning | Azure AI-sökning |
| Trådar, konversationshistorik, meddelanden och agentdefinitioner | Microsoft hanterad lagring | Azure Cosmos DB |
Kapacitetsvärdar anger för agenttjänsten var filuppladdningar, vektorlager och konversationshistorik ska lagras och bearbetas. Information om hur du lagrar agentdata i dina egna resurser finns i Standard agentkonfiguration.
Foundry Agent-tjänstslutpunkter är regionala och data lagras i samma region som slutpunkten. Mer information finns i dokumentationen om Azure-datahemvist.
Standardgränser för tjänsten
I följande tabell visas standardgränser som tillämpas av agenttjänsten. Dessa gränser gäller för alla Foundry-projekt oavsett prenumerationstyp eller region.
| Begränsningsnamn | Gränsvärde |
|---|---|
| Maximalt antal filer per agent/tråd | 10 000 |
| Maximal filstorlek för agenter | 512 MB |
| Maximal storlek för alla uppladdade filer för agenter | 300 GB |
| Maximal filstorlek i tokens för att ansluta till ett vektorlager | 2 000 000 token |
| Maximalt antal meddelanden per tråd | 100,000 |
Maximal storlek på text innehåll per meddelande |
1 500 000 tecken |
| Maximalt antal registrerade verktyg per agent | 128 |
| Maximalt antal giltiga agentrevisioner per agent | 1,000 |
Agenttjänstens gränser i den här tabellen är fasta och tillämpas enhetligt för alla prenumerationstyper. Hastighetsbegränsning för modellanrop tillämpas på modelldistributionsnivå. se Azure OpenAI-kvoter och gränser för modellspecifika hastighetsgränser.
Referens för limitfel
När du överskrider en gräns returnerar agenttjänsten ett fel. Hantera dessa fel korrekt i ditt program.
| Felscenario | HTTP-statuskod | Felkod | Rekommenderad åtgärd |
|---|---|---|---|
| Filen är för stor | 400 | file_size_exceeded |
Dela upp innehåll i mindre filer |
| Tokengräns för vektorlager | 400 | token_limit_exceeded |
Minska filinnehåll eller dela filer |
| Trådmeddelandegräns | 400 | message_limit_exceeded |
Skapa en ny tråd |
| Meddelandeinnehållet är för stort | 400 | content_size_exceeded |
Använda filsökning för stort innehåll |
| För många verktyg | 400 | tool_limit_exceeded |
Ta bort verktyg som inte används |
| Hastighetsgränsen har överskridits | 429 | rate_limit_exceeded |
Implementera exponentiell backoff |
| För många giltiga agentversioner | 400 | UserError |
Ta bort äldre versioner och skapa sedan en ny version. Det här felet är terminal – att försöka skapa samma anrop igen utan att ta bort versioner fortsätter att misslyckas. |
Till exempel:
- Filen överskrider den maximala storleken. Det går inte att ladda upp filen. Dela upp innehållet i mindre filer eller minska filstorleken innan du laddar upp.
- Tokengräns för vektorlager. Det går inte att ansluta en fil till ett vektorlager om filen överskrider tokengränsen. Minska filinnehållet eller dela upp det i flera filer.
- Gräns för trådmeddelanden. Det går inte att lägga till meddelanden när en tråd har nått meddelandegränsen. Skapa en ny tråd för en ny konversationssession eller arkivera och rotera trådar som en del av programdesignen.
- Meddelandeinnehållsstorlek. Det går inte att skapa ett meddelande om innehållet
textär för stort. Skicka mindre meddelanden eller flytta stort innehåll till filer och använd filsökning. - Verktygsregistreringsgräns. Det går inte att skapa eller uppdatera en agent om du registrerar för många verktyg. Registrera endast de verktyg du behöver och föredrar färre återanvändbara verktyg.
- Hastighetsgränsen har överskridits. API-anrop till modelldistributionen begränsas. Implementera exponentiell backoff med jitter.
- Giltigt agentversionstak. Det går inte att skapa en version när en agent når 1 000 giltiga revisioner. Tjänsten returnerar HTTP 400 med meddelandet
Maximum number of agent versions (1000) exceeded. Please delete older versions before creating new ones.Det här felet är terminal, inte ett tillfälligt, så försök inte igen med samma anrop. Ta bort versioner som du inte längre behöver frigöra kapacitet direkt och skapa sedan den nya versionen.
För information om filsökningsscenarier, se Vektorlagringssystem för filsökning för vägledning om hantering av vektorlagertillväxt.
Metodtips för att hålla sig inom gränserna
Använd följande metoder för att minska gränsrelaterade fel:
- Håll filerna små och fokuserade. Föredrar flera mindre dokument framför ett enda stort dokument.
- Undvik mycket stora meddelanden. Placera långt innehåll i uppladdade filer och fråga efter det med hjälp av filsökning.
- Planera för långa konversationer. Behandla trådar som sessionstillstånd och rotera till nya trådar när konversationer blir mycket långa.
- Registrera endast nödvändiga verktyg. Ta bort verktyg som inte används från agentdefinitioner.
- Hantera agentversioner. Varje agent tillåter upp till 1 000 giltiga revisioner. Ta bort eller rotera versioner som du inte längre behöver som en del av din distributionspipeline så att aktiva agenter håller sig väl under taket och inte försöker skapa anrop igen som misslyckas med versionstaket förrän du frigör kapacitet.
- Övervaka användningstrender. Spåra agentaktivitet med hjälp av Foundry Agent Service-mått för att identifiera tillväxt innan du når gränserna.
Modellkvoter och hastighetsgränser
Agenter följer kvoterna och hastighetsgränserna för de modellutplaceringar de använder.
Information om aktuella modellkvoter och -gränser finns i:
Om du vill visa eller begära mer modellkvot kan du läsa Hantera och öka kvoterna för resurser med Microsoft Foundry (Foundry-projekt).
Begära en gränsökning
Gränserna i den här artikeln är standardvärden för Foundry Agent Service. Om din arbetsbelastning kräver högre gränser:
- Modellkvoter. Du kan begära ökningar för modelldistributionskvoter. Se Hantera och öka kvoter för resurser med Microsoft Foundry.
- Gränser för agenttjänsten. Fil-, meddelande- och verktygsbegränsningarna som anges i den här artikeln är fasta tjänstgränser och kan inte ökas. Utforma ditt program så att det fungerar inom dessa begränsningar med hjälp av metodtipsen som beskrevs tidigare.