什麼是 Microsoft Foundry 代理服務?

Foundry Agent Service 是一個託管平台,用於建置、部署及擴展 AI 代理。 使用任何框架、Foundry 模型目錄中支援的任何模型 ,以及回應 API 作為單一入口點。

你可以選擇要使用這個平台到什麼程度:

  • 提示代理 程式 — 在 Foundry 入口網站撰寫 提示代理 程式,或用 SDK 和 REST 定義,Foundry 會自動執行。 沒有需要維護的應用程式程式碼,沒有計算需要付費,也沒有容器或套件需要優化、擴展或修補。
  • 代管代理 — 使用 Agent FrameworkLangGraphOpenAI Agents SDKAnthropic Agent SDKGitHub Copilot SDK 或您自己的程式碼來撰寫代理程式碼,將其封裝為容器,並讓 Foundry 透過受控端點、自動擴展、身分識別與可觀測性來執行。

已經有代理程式在 Foundry 外運行了嗎? 從你現有的流程呼叫 Responses API ,這樣就能取得 Foundry 模型和平台工具,而不必移動程式碼。

什麼是代理人?

代理是一種 AI 應用程式,利用 Foundry 模型目錄中的模型來推理使用者需求,並自主採取行動以滿足需求。 與只產生文字的聊天機器人不同,客服人員可以呼叫工具、存取外部資料,並在多個步驟中做出決策以完成任務。 在某些情況下,客服人員甚至完全沒有聊天介面——在背景自主運作,由系統事件觸發,代表使用者或組織完成任務。

每個代理人結合了三個核心組成部分:

  • 模型:來自 Foundry 模型目錄的模型,提供推理與語言能力。
  • 指示:定義目標、限制與行為。 在 Foundry 中,指令可以是基於提示的,也可以是託管代理中的程式碼。
  • 工具:提供資料或動作存取,例如搜尋、檔案操作或 API 呼叫。

一張顯示 AI 代理組成部分的圖示。

代理服務一覽

組成部分 它的功能
回應 API 每種特工類型都有單一入口。 提供任何框架、程序或執行時存取 Foundry 模型及平台工具(檔案搜尋、程式碼直譯器、記憶體、網頁搜尋、MCP 伺服器)。
代理執行時間 裝載並調整 Prompt Agent 和 Hosted Agent 的規模。 管理對話、工具呼叫及客服人員生命週期。
工具 內建工具包括網頁搜尋、檔案搜尋、記憶體、程式碼直譯器、MCP 伺服器及自訂函式。 受控驗證包含服務受控認證和代理者流程 (OBO)。
型號 可搭配 Foundry 模型目錄中的多個模型,如 GPT-4o、Llama 及 DeepSeek。 在不更改代理代碼的情況下交換模型。
可觀察性 端對端追蹤、指標與應用洞察整合。 查看你的經紀人做的每一個決定。
身份與安全 Microsoft Entra 身份、RBAC、內容過濾與虛擬網路隔離。 內建企業級信任。
出版 版本代理、建立穩定端點,並透過 Microsoft Teams、Microsoft 365 Copilot 及 Entra 代理登錄檔分享。

開始與經紀人合作

根據你想做的事來選擇你的道路:

  • 剛接觸經紀人?從提示代理開始 ——在 Foundry 入口網站建立代理,選擇模型,附加工具,然後從程式碼呼叫它。 不需要執行時程式碼撰寫或維護——Foundry 會幫你執行代理程式。
  • 想在 Foundry 裡建立一個基於程式碼的代理程式嗎?部署託管代理 — 用 Agent Framework、LangGraph、OpenAI Agents SDK 或自己的程式碼撰寫代理,打包成容器,讓 Foundry 以管理端點、擴展和身份來執行。
  • 想用你已經在其他地方運行的代理程式碼中的 Foundry 模型和工具?從你現有的流程呼叫 Responses API,這樣就能取得 Foundry 模型和平台工具,而不必移動程式碼。

代理人類型

代理服務中有兩種主要的代理類型:

提示詞 Agent

提示代理完全透過設定定義——指令、模型選擇與工具。 你可以在 Foundry 入口網站快速撰寫,或用 SDK 或 REST API 程式化定義,與你的 CI/CD 工作流程整合。 無論哪種方式,Foundry 會幫你執行代理程式——不需要維護應用程式程式碼,不需要支付計算費用,也不需要容器或套件來優化、擴展或監控安全。

有兩條起步路徑:

  • 入口優先 ——在 Foundry 入口網站互動式建立代理,在遊樂場測試,然後用你的應用程式碼呼叫它。
  • 程式碼優先 — 在部署管線中使用 SDK 或 REST API 定義代理程式,支援版本控制、程式碼審查及自動部署。

最佳用途:快速入門、內部工具、不需要自訂編排邏輯的生產代理,以及想要無基礎設施負擔的管理執行時團隊。

託管代理(預覽)

Hosted agents 是使用 Agent FrameworkLangGraphOpenAI Agents SDKAnthropic Agent SDKGitHub Copilot SDK 所建構的程式碼代理。 或者你自己的程式碼。 你可以將代理程式以容器映像檔或原始碼壓縮檔的形式寄送——當你帶來壓縮檔時,Foundry 會幫你建立映像檔——Foundry 會以管理端點、自動擴展、專用的 Microsoft Entra 身份、會話層級的狀態持久化,以及端對端的可觀察性來執行。

在底層,你的代理程式碼會呼叫 Foundry 專案端點上的 Responses API,用於模型推論與工具協調,讓你能存取目錄中的 Foundry 模型及統一的平台工具集——標準的 OpenAI 工具如檔案搜尋、程式碼直譯器和網頁搜尋,以及 Foundry 獨有的工具如 SharePoint, WorkIQ 和 Fabric IQ。

託管代理目前正處於公開預覽階段。

最適合用於:會呼叫您自有自訂程式碼的代理;其次也適用於自訂編排邏輯、多代理系統,以及您希望能完全掌控代理邏輯、同時讓 Foundry 負責託管、擴展和身分識別管理的自訂通訊協定(Webhook、語音、AG-UI)。

如果你想繼續在 Foundry 外執行代理程式碼——例如嵌入現有應用程式中——你仍然可以透過直接從流程呼叫 回應 API 來取得 Foundry 的模型和平台工具。 請參考 「使用你自己程式碼中的回應 API」。

比較代理類型

提示詞 Agent 託管代理(預覽)
撰寫介面 入口網站、SDK 或 REST Agent Framework、LangGraph、OpenAI Agents SDK、Anthropic Agent SDK、GitHub Copilot SDK、自訂程式碼
Foundry 模型 + 平台工具 是的 是的(透過 Foundry 專案端點的回應 API)
技能支援 是的 是的
需維護的執行階段程式碼 沒有 是的——你的代理邏輯
以運算進行管理 無——完全受管理 容器運算,由 Foundry 管理
受管理端點 是的 是的
Autoscale 自動,鑄造廠管理;隨請求量而調整 自動,由 Foundry 管理;依據每個工作階段和請求量擴充容器執行個體
代理身份(Entra) 是的 每個 Agent 自動專用
成本模型 按次呼叫推論 + 工具使用 每次呼叫推論 + 工具使用 + 容器運算
適用對象 快速開始,無需自訂協調流程的生產 Agent 呼叫自訂程式碼的代理;其次是自訂編排邏輯

在您自己的程式碼中使用 Responses API

回應 API 是每個代理類型背後的單一模型與工具端點。 你可以直接從自己的程式碼呼叫它,取得 Foundry 模型和平台工具,而不必在 Foundry 裡建立代理資源。 此模式是對託管代理的加成,而非替代方案——同一 Agent Framework 程式碼今天就能從你自己的程序呼叫回應 API,之後在你想要 Foundry 管理端點時,再打包成容器託管代理。

請參閱 快速入門:使用回應 API 以獲取端點選項與端對端範例。

模型支援

代理服務可處理 Foundry 模型目錄中許多可用的模型。 完整名單請參見 配額、限制與區域支持

工具

Agent Service 提供內建工具並支援自訂工具,讓您的代理人能執行動作並存取資料。 完整清單請參閱 Foundry 工具目錄。 欲了解進階工具選擇模式,請參閱 工具最佳實務

Foundry 支援遠端 MCP 伺服器,您可以從 Foundry 入口網站的 新增工具 目錄中新增。 例如,Azure DevOps MCP Server(公開預覽版)可以直接從目錄中新增。 連接您的 Azure DevOps 組織以啟用代理存取權限,並配置一部分可用工具來控制代理可執行的動作。 你也可以使用 Functions MCP webhook 端點(/runtime/webhooks/mcp)連接 Azure Functions 上託管的自訂 MCP 伺服器,將自訂工具暴露給你的代理程式。

MCP 伺服器及其他工具連接支援的認證選項包括:

  • 基於金鑰的存取
  • Microsoft Entra(使用代理程式的管理身份識別或專案的管理身份識別)
  • OAuth 身分識別傳遞 (代理者)
  • 未認證存取權(如適用)

工具箱(預覽)

Toolbox 讓你只定義一組精選工具,在 Foundry 中集中管理,並透過單一相容 MCP 的端點公開。 任何相容 MCP 的代理執行環境或用戶端都可能佔用工具箱,不論你使用哪種框架。 工具箱版本管理讓你明確控制變更生效的時間——建立新版本、測試,準備好後再升為預設。

部分工具,包括記憶體和網頁搜尋,目前還在預覽階段。 如需查看各區域的可用性與預覽狀態,請參閱依區域與模型的工具支援

開發生命週期

代理服務支援完整的建置-測試-部署-監控工作流程:

  1. 建立 — 在入口網站或 SDK 中定義一個提示代理,或撰寫一個呼叫回應 API 的託管代理。
  2. 測試 — 在 代理測試區 或本地執行時與你的代理對話。 MCP 伺服器整合,包括託管於 Azure Functions 的自訂 MCP 伺服器,可直接在 Playground 中執行,以驗證工具的連接性、權限及行為,然後再發佈。
  3. 追蹤 — 透過 代理追蹤檢查每一個模型呼叫、工具調用及決策。
  4. 評估 — 進行評估以衡量品質並捕捉迴歸現象。
  5. 優化 — 使用 代理優化器自動優化你託管的客服人員指令。
  6. 發佈將您的代理程式升格 為擁有穩定端點的管理資源。
  7. 監控 — 透過 服務指標 與儀表板追蹤效能與可靠性。

詳細攻略請參閱 代理開發生命週期

企業級能力

Agent Service 為你部署的每個代理提供企業級基礎架構:

  • Agent 身份 — 每個代理都可以擁有專屬的 Microsoft Entra 身份,實現安全且有範圍的資源與 API 存取,且不共享憑證。 代理程式身分識別可向外部 MCP 伺服器 (包括裝載於 Azure Functions 上的伺服器) 進行驗證,且在設定後可支援 OAuth 代理者 (OBO) 傳遞。
  • Private Networking — 在您的Azure虛擬網路中運行代理,以確保網路完全隔離並符合資料駐留要求。 Prompt Agent 可使用私人網路。 裝載的 Agent 支援自備 Azure 虛擬網路 (BYO VNet),其中每個工作階段都會在連線至 VNet 的 VM 隔離沙箱中執行。
  • 基於角色的存取控制 — 透過Microsoft Entra與Azure RBAC進行細粒度權限管理。 控制誰能建立、調用及管理代理人。
  • 內容安全 — 整合內容過濾器有助於降低提示注入風險(包括跨提示注入),並防止不安全輸出。

關於環境設定的說明,請參見 「設定你的環境」。

出版與分享

Agent Service 提供內建版本控制與發布功能,讓您的代理能自信地從開發階段順利進入生產環境。

  • 版本管理 — 當你在代理上迭代時,版本會自動被快照。 可以回滾到任何舊版本,或是比較不同版本之間的變更。
  • 發佈 — 將代理升級為擁有穩定端點的受管理資源。 已發佈代理繼承為專案設定的 企業身份與存取控制 ,並可透過程式化調用。
  • Distribution — 透過 Microsoft 365 Copilot、Teams 以及 Entra 代理登錄系統分享已發佈的代理,將代理放在用戶已工作的地方。 Foundry Agent Service 支援用於Microsoft 365發佈的 OpenResponses 與活動協定,並支援用於與自訂應用程式與服務的靈活端點整合的 Invocations 協定,以及用於代理間通訊的 A2A 協定(預覽版)

安全性、隱私與合規

代理服務專為需要強大控制身份、網路、資料處理及安全管理的企業工作負載設計。

  • 安全控管:使用整合式 護欄 ,協助減少不安全輸出並降低即時注入風險,包括交叉提示注入攻擊(XPIA)。
  • 網路隔離與資料駐留控制:使用虛擬網路並自備資源以符合需求。
  • 自備資源:使用您自己的Azure資源(例如儲存、Azure AI 搜尋服務和對話狀態的Azure Cosmos DB)來滿足合規與營運需求。 請參考「 使用您自己的資源」。
  • 負責任 AI 指引:如需更廣泛的建議與治理資源,請參閱 Microsoft Foundry 的負責任 AI