Přehled úrovně AI Gateway (náhled)

VZTAHUJE SE NA: ÚROVEŇ AI Gateway (náhled)

Important

Vrstva AI Gateway je v současné době ve verzi Public Preview. Během veřejné preview je úroveň AI Gateway dostupná v následujících regionech:

  • USA – Východní USA 2
  • Evropa - Švédsko střed

AI Gateway tier (preview) od Azure API Management je plně spravovaná brána pro AI pracovní zátěže. Dává týmům jedno místo pro publikování, zabezpečení, správu a pozorování přístupu k AI modelům a nástrojům Model Context Protocol (MCP).

Úroveň AI Gateway je ve fázi veřejného náhledu. Funkce náhledu, regiony, limity služeb a API se mohou měnit ještě před obecnou dostupností. Ceny a obchodní model budou oznámeny později v přehledu.

Jaká je úroveň AI Gateway?

Vrstva AI Gateway je spravovaná brána pro aplikace, které využívají modely a nástroje. Aplikace volají koncový bod brány místo toho, aby přímo volaly backend každého poskytovatele nebo nástroje. Pro každý požadavek brána:

  1. Ověřuje běhový přístupový klíč v hlavičce api-key.
  2. Hodnotí politiky, které se vztahují na cílový model nebo nástroj.
  3. Směruje požadavek na vybraný backend – podle pole model pro modely nebo podle názvu nástroje v případě nástrojů – pomocí přihlašovacích údajů backendu, které jste nastavili.
  4. Vrátí odpověď a vysílá telemetrii — záznamy OpenTelemetry a metriky jako počty tokenů a latenci.

Proč ho použít

Úroveň AI Gateway dává týmům platformy jednu řízenou hranici běhu pro aplikace, modely a nástroje. Použijte ji k následujícím akcím:

  • Umístěte jeden koncový bod brány před podporované poskytovatele AI.
  • Udržte přihlašovací údaje poskytovatele skryté před aplikacemi.
  • Spravovat modely, MCP servery, přístupové klíče pro běh, politiky a monitorování.
  • Aplikujte governance kontroly, jako jsou limity rychlosti tokenů, limity pro požadavky na rychlost, bezpečnost obsahu a IP filtry.
  • Publikujte schválené MCP nástroje pro AI agenty.
  • Objevte a používejte dostupné modely a nástroje prostřednictvím samoobslužného katalogu.
  • Přihlaste se a spravujte bránu pomocí Microsoft Entra ID.

Volba cesty

Rychlý start

Jste nováček v AI Gateway tieru? Vytvořte bránu, přidejte model a uskutečněte první hovor za asi 20–30 minut.

Správa modelů a nástrojů

Přidejte Foundry a vlastní modely a publikujte MCP nástrojové servery za jedním řízeným koncovým bodem.

Řiďte, zabezpečte a provozujte

Použijte zásady, správu identit, sítě a monitorování pro produkční provoz.

Klíčové koncepty

Gateway

Brána představuje běhovou a správní hranici pro provoz AI. Je to dedikovaný Azure zdroj, který lze zpřístupnit asi za minutu, bez plánování škálovacích jednotek. Aplikace volají jeden koncový bod brány pomocí přístupového klíče za běhu namísto přímého volání backendu jednotlivých poskytovatelů nebo nástrojů. Spravujete modely, nástroje, politiky, klíče a identitu na jednom místě.

Schéma aplikací, agentů a agentů pro psaní kódu, které volají vrstvu AI Gateway, jež ověřuje běhový klíč, uplatňuje zásady a odesílá telemetrická data před směrováním požadavků k poskytovatelům modelů a backendům nástrojů MCP.

Modely

Model je model poskytovatele, který publikujete prostřednictvím brány. Aplikace ji vybírají podle názvu v poli model požadavku. Všichni poskytovatelé kompatibilní s OpenAI (Microsoft Foundry, Azure OpenAI, AWS Bedrock, Google Vertex a OpenAI) sdílejí jeden koncový bod. .../models/openai/v1 Brána směruje na základě přesné shody s model, proto každému modelu přiřaďte jedinečný název. Anthropic používá vlastního poskytovatele s průchodem Messages API na adrese .../models/anthropic/v1/messages. Gateway uchovává backendové přihlašovací údaje, takže aplikace nikdy nezpracovávají klíče poskytovatele.

MCP servery a nástroje

MCP server je jeden spravovaný koncový bod (.../toolservers/<server-name>/mcp), který agenti volají, aby získali přístup k nástrojům. Federuje jeden nebo více backendů ze tří zdrojů: vzdáleného MCP serveru (podle URL), specifikace OpenAPI nebo vestavěného konektoru (více než 1 000 SaaS aplikací, bez serveru pro hostování). Operace každého backendu se stávají nástroji. Vy si vybíráte, jak se brána autentizuje ke každému backendu: None, API Key, OAuth 2.0 nebo Managed identity.

Zásady

Zásada je ochranné pravidlo za běhu, které nakonfigurujete jako kartu v portálu – bez XML.

Policy Co to řídí
Bezpečnost obsahu Bezpečnostní kontroly u výzev a odpovědí.
IP filtr Volání za běhu z povolených rozsahů klientských sítí.
Limit rychlosti tokenů Propustnost tokenů v průběžném minutovém intervalu.
Limit rychlosti požadavků Žádejte o objem během jedné minuty.

Identitní a přístupové klíče

Administrátoři se přihlašují ke správě brány pomocí Microsoft Entra ID. Aplikace se ověřují pomocí přístupových klíčů modulu runtime – tyto klíče vytvořte na stránce Klíče na portálu (Vytvořit API klíč) a odesílejte je v hlavičce api-key. Klíč je omezen na bránu: umožňuje přístup ke všem modelům a nástrojům. U backendů brána používá spravovanou identitu tam, kde je dostupná (takže nejsou uložena žádná tajemství) nebo poskytovatelský klíč, který zadáte vy. Vydat jeden klíč pro každou aplikaci a prostředí a udělit každé identitě nejméně privilegia.

Samoobslužný katalog

Vývojáři najdou modely a nástroje v samoobslužném katalogu – každý s podrobnostmi o připojení a ukázkami – připnou si oblíbené položky a pomocí palety příkazů Ctrl+K (⌘K na macOS) mohou rychle přejít kamkoli.

Dostupnost v oblastech

Během veřejného náhledu je úroveň AI Gateway dostupná v následujících Azure regionech.

Zeměpis Región
USA USA – východ 2
Evropa Švédsko – střed

Dostupnost v jednotlivých oblastech se může lišit v závislosti na předplatném, cloudu, kapacitě, příznaku funkce a registraci do verze Preview. Pokud váš cílový region není dostupný v portálu nebo nástrojích pro nasazení, vyberte jiný podporovaný preview region nebo kontaktujte svého zástupce Microsoft.

Vyberte si region, který nejlépe odpovídá vašim uživatelům, aplikacím, AI backendům a síťovým závislostem. Pokud brána směruje do Azure OpenAI, Microsoft Foundry, modelových endpointů, API nebo MCP serverů, zvažte i tyto lokality. Rezidence dat závisí na celé trase požadavku, nejen na regionu brány. Zkontrolujte, kde je každá komponenta nasazena, včetně brány, AI backendů, nástrojů, destinací pro logování, spravovaných identit a klientských aplikací.

Nejčastější dotazy

Kdy bych měl použít tarif AI Gateway místo přímého volání poskytovatelů?

Použijte vrstvu AI Gateway, když chcete mít jediný spravovaný koncový bod pro mnoho modelů a nástrojů: centrální runtime klíče místo přihlašovacích údajů poskytovatele v každé aplikaci, sdílené zásady (limity tokenů a požadavků, bezpečnost obsahu, filtry IP), jednotnou telemetrii a samoobslužný katalog. Pokud voláte jeden model z jedné aplikace a nepotřebujete správu nebo centrální přihlašovací údaje, může být přímé volání poskytovateli jednodušší.

Mám importovat z Foundry, nebo přidat vlastní model?

Importujte z Foundry, pokud je váš model hostovaný v prostředku Foundry nebo Azure OpenAI (Azure AI Services); průvodce za vás automaticky zjistí nasazení v daném prostředku. Přidejte vlastní model pro AWS Bedrock, Google Vertex, OpenAI, Anthropic nebo jakýkoli jiný endpoint kompatibilní s OpenAI, kde si sami zadáte názvy koncových bodů a modelů. Viz Spravovat modely a nástroje.

Je úroveň AI Gateway připravená k produkci?

Vrstva AI Gateway je ve fázi veřejného náhledu: dostupnost je zajišťována v režimu best effort bez smlouvy o úrovni služeb (SLA) a rozhraní API, pracovní postupy na portálu, telemetrie, limity, oblasti a ceny se mohou změnit. Preview kvóty mohou omezit počet modelů, nástrojů a přístupových klíčů za běhu, stejně jako propustnost požadavků a tokenů; Konkrétní limity budou zveřejněny před obecnou dostupností. Začněte s nekritickými zátěžemi, řízenými piloty a jasnými plány návratu zpět.

Jak se během preview řeší cenotvorba?

Ceny a obchodní model pro úroveň AI Gateway budou oznámeny později v přehledu. Můžete také platit za související prostředky, které používáte spolu s bránou, například poskytovatele modelů, Application Insights, síťové služby a platformy pro monitorování.

Které regiony jsou k dispozici?

Úroveň AI Gateway je dostupná v oblastech East US 2 a Sweden Central. Podívejte se na oblastní dostupnost.

Jak se zpracovávají moje data?

Vy si vybíráte, kam telemetrie půjde. Při použití Application Insights zůstává ve vašem předplatném Azure. Ostatní OpenTelemetry (OTLP) destinace se řídí vaší konfigurací a podmínkami poskytovatele. Telemetrie používá sémantické konvence GenAI OpenTelemetry (předpona gen_ai.* ). Rezidence dat závisí na celé trase požadavku, proto umístěte bránu, backendové služby a cíle telemetrie do schválených regionů a zapojte své bezpečnostní týmy a týmy pro ochranu osobních údajů.

Podporuje úroveň AI Gateway privátní sítě?

Yes. Inbound Private Link a integrace odchozí virtuální sítě jsou součástí veřejného náhledu. Viz Konfigurace privátní sítě pro nastavení, DNS a omezení.

Kterou verzi API bych měl použít pro automatizaci?

Použijte verzi 2026-05-01-previewAPI pro správu náhledu. Ověřte automatizaci před širokým nasazením, protože API je v náhledu.

Související obsah

  • Last updated on