共用方式為


在 Azure Functions 中使用 AI 工具和模型

Azure Functions 提供與 AI 和 Azure 服務整合的無伺服器計算資源,以簡化建置雲端裝載的智慧型應用程式。 本文提供 AI 相關案例、整合和其他 AI 資源廣度的調查,可供您在函數應用程式中使用。

請考慮在下列案例中,在已啟用 AI 的體驗中使用 Azure Functions:

Scenario 說明
工具和 MCP 伺服器 Functions 讓你能建立並架設遠端模型內容協定(MCP)伺服器,並實作各種 AI 工具。 MCP 伺服器是透過遠端工具啟用函數呼叫的業界標準。
代理工作流程 Durable Functions 可協助您建立具有內建容錯功能的多步驟、長時間執行的代理程式作業。
擷取增強生成(RAG) RAG 系統需要快速的資料檢索和處理。 函式可以同時與多個資料來源互動,並提供 RAG 情境所需的快速擴展能力。

選取其中一個案例,以在本文中深入瞭解。

本文是特定語言,因此請確定您在 頁面頂端選擇您的程式設計語言。

工具和 MCP 伺服器

AI 模型和代理程式使用 函數呼叫 來請求稱為 工具的外部資源。 函數呼叫可讓模型和代理程式根據對話或任務的內容動態呼叫特定功能。

Functions 特別適合在代理程式工作流程中實作函式呼叫,因為它可以有效率地調整以處理需求,並提供 繫結延伸模組 ,以簡化代理程式與遠端 Azure 服務的連線。 當您在 Functions 中建置或託管 AI 工具時,您也可以獲得無伺服器定價模型和平台安全功能。

模型內容通訊協定 (MCP) 是與遠端伺服器互動的業界標準。 它為 AI 模型和代理提供了一種與外部系統通信的標準化方式。 MCP 伺服器可讓這些 AI 用戶端有效地確定外部系統的工具和功能。

Azure Functions 目前支援使用下列類型的工具來公開函式程式碼:

工具類型 說明
遠端 MCP 伺服器 建立自訂 MCP 伺服器或主機 SDK 型 MCP 伺服器。
佇列型 Azure Functions 工具 Azure AI Foundry 提供特定的 Azure Functions 工具,可使用訊息佇列來啟用非同步函式呼叫。

遠端 MCP 伺服器

Functions 支援下列選項來建立和裝載遠端 MCP 伺服器:

  • 使用 MCP 系結延伸模組 來建立和裝載自訂 MCP 伺服器,就像處理任何其他函式應用程式一樣。
  • 使用官方 MCP SDK 建立的自託管 MCP 伺服器。 此託管選項目前處於預覽狀態。

以下是 Functions 提供的當前 MCP 伺服器託管選項的比較:

特徵 / 功能 MCP 綁定擴展 自架設 MCP 伺服器
目前的支援層級 GA 預展*
程式設計模型 功能觸發器和繫結 標準 MCP SDK
具狀態執行 支援 目前不支援
目前支援的語言 C# (隔離程序)
Python
TypeScript
JavaScript
JAVA
C# (隔離程序)
Python
TypeScript
JAVA
其他要求 None 可串流的 HTTP 傳輸
如何實施 MCP 綁定擴展 自訂處理程式

*自我裝載 MCP 伺服器的組態詳細資料會在預覽期間變更。

以下是一些選項,可協助您開始在 Functions 中託管 MCP 伺服器:

選項 MCP 繫結延伸模組 自架設 MCP 伺服器
文件資料 MCP 綁定擴展 n/a
Samples 遠端自訂 MCP 伺服器 天氣伺服器
範本 HelloTool n/a
選項 MCP 繫結延伸模組 自架設 MCP 伺服器
文件資料 MCP 繫結擴展 n/a
Samples 遠端自訂 MCP 伺服器 天氣伺服器
選項 MCP 繫結延伸模組 自架設 MCP 伺服器
文件資料 MCP 繫結擴展 n/a
Samples 遠端自訂 MCP 伺服器 天氣伺服器
選項 MCP 繫結延伸模組 自架設 MCP 伺服器
文件資料 MCP 繫結擴展 n/a
Samples 尚未提供 n/a
選項 MCP 繫結延伸模組 自架設 MCP 伺服器
文件資料 MCP 繫結擴展 n/a
Samples 尚未提供 尚未提供

任一 MCP 伺服器裝載選項目前不支援 PowerShell。

以佇列為基礎的 Azure Functions 工具

除了 MCP 伺服器之外,您還可以使用 Azure Functions 搭配佇列型通訊來實作 AI 工具。 Azure AI Foundry 提供 Azure Functions 特定的工具,可使用訊息佇列啟用非同步函式呼叫。 透過這些工具,AI 代理程式會使用訊息模式與您的程式碼互動。

此工具方法非常適合需要以下條件的 AI Foundry 案例:

  • 可靠的訊息傳遞和處理
  • AI 代理與函數執行之間的解耦
  • 內建重試和錯誤處理功能
  • 與現有的 Azure 傳訊基礎結構整合

以下是函式呼叫情境的一些參考範例:

使用 Azure AI Foundry 代理程式服務 用戶端來呼叫使用 Azure Functions 實作的自訂遠端 MCP 伺服器。

使用 Azure AI SDK 中代理程式的函式呼叫功能來實作自訂函式呼叫。

Agent 工作流程

AI 驅動的流程通常決定如何與模型和其他 AI 資產互動。 然而,某些場景需要更高等級的可預測性或明確定義的步驟。 這些定向的代理程式工作流程協調代理程式必須遵循的各項獨立任務或互動。

Durable Functions 延伸模組可協助您利用 Functions 的優勢,建立具有內建容錯功能的多步驟、長時間執行的作業。 這些工作流程非常適合您的主動式代理工作流程。 例如,車程規劃解決方案可能會先從使用者收集需求、搜尋方案選項、取得使用者核准,最後進行必要的預約。 在此案例中,您可以為每個步驟建置代理程式,然後使用 Durable Functions 協調其動作作為工作流程。

如需更多工作流程案例的想法,請參閱 Durable Functions 中的 應用程式模式

擷取擴增生成

由於 Functions 可以同時處理來自各種資料來源的多個事件,因此它是即時 AI 案例的有效解決方案,例如需要快速資料擷取和處理的 RAG 系統。 快速事件驅動擴展可減少客戶遇到的延遲,即使在高需求情況下也是如此。

以下是以RAG為基礎的案例的一些參考範例:

針對 RAG,您可以使用 SDK (包括 Azure Open AI 和 Azure SDK) 來建置您的案例。 ::: 區域端

示範如何建立友善的聊天機器人,以發出簡單提示、接收文字完成和傳送訊息,全都在使用 OpenAI 繫結延伸模組 (部分機器翻譯) 的具狀態工作階段中進行。

適用於 Azure Functions 的 AI 工具和架構

Functions 可讓您以偏好的語言建置應用程式,並使用您最愛的程式庫。 由於這種彈性,您可以在已啟用 AI 的函式應用程式中使用各種 AI 程式庫和架構。

以下是您應該注意的一些關鍵 Microsoft AI 框架:

框架/函式庫 說明
代理程式架構 輕鬆建立 AI 代理和代理工作流程。
Azure AI Foundry 代理程式服務 完全受控的服務,用於建置、部署和調整 AI 代理程式,具有企業級安全性、內建工具,以及與 Azure Functions 的無縫整合。
Azure AI 服務 SDK 藉由直接使用用戶端 SDK,您可以直接在函式程式代碼中使用 Azure AI 服務功能的完整廣度。

Functions 還允許您的應用程序引用第三方庫和框架,因此您可以在支持 AI 的函數中使用所有您喜歡的 AI 工具和庫。

相關文章