適用於：AI Gateway 層級（預覽）
Important
AI Gateway 層級目前處於公開預覽階段。 在公開預覽期間，AI Gateway 層級可在以下地區提供：
- 美國 - 東美國2號公路
- 歐洲-瑞典中部
Azure API 管理 提供的 AI Gateway tier（預覽版）是一個完全託管的 AI 工作負載閘道。 它讓團隊有一個地方來發布、保護、治理及觀察 AI 模型及模型情境協定（MCP）工具的存取權限。
AI Gateway 層級目前處於公開預覽階段。 預覽功能、區域、服務限制及 API 可能在正式上市前有所變動。 價格與商業模式將於預覽後續公布。
什麼是 AI Gateway 層級？
AI 閘道層是用於呼叫模型與工具的應用程式的管理閘道。 應用程式呼叫閘道端點，而非直接呼叫每個提供者或工具後端。 針對每個請求，閘道器：
- 驗證標頭中的
api-key執行時存取金鑰。 - 評估適用於目標模型或工具的政策。
- 使用你設定的後端憑證，根據模型的
model欄位或工具的名稱，將請求路由至所選的後端。 - 回傳回應並發送遙測數據——OpenTelemetry 日誌及指標，如代幣數量與延遲。
使用原因
AI Gateway 層級為平台團隊提供一個受規範的執行時邊界，涵蓋應用程式、模型與工具。 使用它來：
- 在支援的 AI 供應商面前放置一個閘道端點。
- 對應用程式隱藏提供者憑證。
- 管理模型、MCP 伺服器、執行時存取金鑰、政策與監控。
- 應用治理控制，如代幣速率限制、請求速率限制、內容安全及IP過濾器。
- 發布供 AI 代理使用的經核准 MCP 工具。
- 透過自助目錄發掘並使用可用的模型與工具。
- 登入以管理 Microsoft Entra ID 閘道。
選擇你的路徑
關鍵概念
Gateway
閘道器是 AI 流量的執行階段與管理邊界。 它是專用的 Azure 資源，約一分鐘內就能配置，無需規劃擴展單元。 應用程式呼叫一個閘道端點並附帶執行時存取金鑰，而非直接呼叫每個提供者或工具後端。 你可以在同一個地方管理所有模型、工具、政策、金鑰和身份。
型號
模型是你透過閘道發佈的提供者模型。 應用程式會在 model 請求欄位中依名稱選擇。 所有相容 OpenAI 的供應商（Microsoft Foundry、Azure OpenAI、AWS Bedrock、Google Vertex 及 OpenAI）共用一個端點。 .../models/openai/v1 閘道器會根據 model 的完全比對結果進行路由，因此請為每個模型指定唯一的名稱。 Anthropic 會使用自訂提供者，並透過位於 .../models/anthropic/v1/messages 的 Messages API 傳遞機制。 閘道器會保存後端憑證，因此應用程式不會處理提供者金鑰。
MCP 伺服器與工具
MCP 伺服器是一個受控端點（.../toolservers/<server-name>/mcp），代理者會呼叫它來存取工具。 它從三個來源聯邦一個或多個後端：遠端 MCP 伺服器 （透過 URL）、 OpenAPI 規範，或 內建連接器 （超過 1,000 個 SaaS 應用程式，卻沒有伺服器可承載）。 每個後端的操作都會變成工具。 你可以選擇閘道如何認證每個後端： 無、 API 金鑰、 OAuth 2.0，或 是管理身份。
政策
原則是在執行階段運作的防護機制，可在入口網站中以卡片形式進行設定，無需 XML。
| 原則 | 它控制的是什麼 |
|---|---|
| 內容安全性 | 提示與回應的安全檢查。 |
| IP 濾鏡 | 來自已核准用戶端網路範圍的執行階段呼叫。 |
| Token 頻率限制 | 輪詢分鐘期間的權杖輸送量。 |
| 請求速率限制 | 輪詢分鐘期間的要求量。 |
身份與存取金鑰
管理員登入後可使用 Microsoft Entra ID 管理閘道。 應用程式使用 執行時存取金鑰 進行認證——在入口網站的 金鑰 頁面（建立 API 金鑰）建立這些金鑰，並在標頭中傳送 api-key 。 金鑰的範圍以閘道為限：它可存取所有模型和工具。 對於後端，閘道器會在可用的情況下使用受控識別（因此不會儲存任何祕密），否則使用你提供的提供者金鑰。 為每個應用程式和環境分別簽發一組金鑰，並為每個身分授予最低權限。
自助式目錄
開發者可在自助目錄中發現模型與工具——每個目錄都有連結細節與範例——收藏最愛，並使用 Ctrl+K（macOS 為 ⌘K）指令面板自由跳轉。
區域可用性
在公開預覽期間，AI Gateway 層級已在以下 Azure 區域提供。
| 地理位置 | 區域 |
|---|---|
| 美國 | 美國東部 2 |
| 歐洲 | 瑞典中部 |
區域可用性會依訂閱、雲端、容量、功能旗標及預覽註冊而異。 如果您的目標區域在入口網站或部署工具中無法取得，請選擇其他支援的預覽區域，或聯絡您的 Microsoft 代表。
選擇最適合你用戶、應用程式、AI 後端及網路依賴的地區。 如果閘道導向 Azure OpenAI、Microsoft Foundry、模型端點、API 或 MCP 伺服器，也要考慮這些位置。 資料駐留取決於完整的請求路徑，而不僅僅是閘道區域。 檢視每個元件的部署位置，包括閘道器、AI 後端、工具、日誌目的地、管理身份及用戶端應用程式。
常見問題
我應該在什麼時候使用 AI Gateway tier 而不是直接打電話給醫療提供者？
當你希望在多個模型和工具面前有一個受控的端點時，使用 AI 閘道層：每個應用程式都用中央執行時金鑰取代提供者憑證、共享政策（令牌與請求限制、內容安全、IP 過濾）、統一遙測，以及自助式目錄。 如果你從單一應用程式呼叫單一模型，且不需要治理或中央憑證，直接聯絡提供者會更簡單。
我應該從 Foundry 匯入還是新增自訂模型？
當你的模型在 Microsoft Foundry 或 Azure OpenAI（Azure AI Services）資源中執行時，從 Foundry 匯入;精靈會幫你發現該資源的部署。 為 AWS Bedrock、Google Vertex、OpenAI、Anthropic 或其他任何相容 OpenAI 端點新增自訂模型，輸入端點並自行命名模型。 請參閱 「管理模型與工具」。
AI 閘道分層準備好投入生產了嗎？
AI Gateway 層級目前處於公開預覽階段：可用性為盡力而為，無服務水準協議（SLA），API、入口網站工作流程、遙測、限制、區域及價格皆可能變動。 預覽配額可以限制模型、工具和執行時存取金鑰的數量，以及你的請求和令牌吞吐量;具體限制將在正式上市前公布。 從非關鍵工作負載、受控的試點，以及明確的回滾計畫開始。
預覽期間的定價是如何處理的？
AI Gateway 層級的價格與商業模式將於預覽後續公布。 你也可能為與閘道相關的資源付費，例如模型提供者、應用洞察、網路和可觀察性平台。
有哪些地區可用？
AI Gateway 層級可在 East US 2 和 Sweden Central 區域使用。 請參閱 區域可用性。
我的資料是怎麼處理的？
你選擇遙測數據的去向。 有了 Application Insights，它會留在你的 Azure 訂閱中。 其他 OpenTelemetry（OTLP）目的地會遵循您的設定與供應商的條款。 遙測採用 OpenTelemetry GenAI 的語意慣例（前綴）。gen_ai.* 資料駐留取決於完整的請求路徑，因此請將閘道、後端和遙測目的地置於核准區域，並邀請安全與隱私團隊參與。
AI Gateway 層級是否支援私有網路？
Yes. Inbound Private Link 與 Outbound 虛擬網路整合是公開預覽的一部分。 請參閱 「配置私有網路 」以了解設定、DNS及限制。
我應該使用哪個 API 版本來進行自動化？
請使用預覽管理 API 版本 2026-05-01-preview。 在大規模推出前先驗證自動化，因為 API 還在預覽階段。