分享方式:


Azure AI SDK 概觀

Microsoft 提供各種套件,可供您在雲端中建置生成式 AI 應用程式。 在大部分的應用程式中,您需要使用套件組合來管理和使用提供 AI 功能的各種 Azure 服務。 我們也提供與開放原始碼程式庫的整合,例如 LangChain 和 MLflow,以和 Azure 搭配使用。 在本文中,我們將提供您可以搭配 Azure AI Studio 使用的主要服務和 SDK 概觀。

若要建置生成式 AI 應用程式,建議您使用下列服務和 SDK:

  • 適用於 AI Studio 中樞和專案基礎結構的 Azure Machine Learning,以將工作組織成專案、管理專案成品 (資料、評估執行、追蹤)、微調和部署模型,以及連線到外部服務和資源。
  • Azure AI 服務提供預先建置和可自訂的智慧型 API 和模型,並支援 Azure OpenAI、Azure AI 搜尋服務、語音、視覺和語言。
  • 提示流程可讓開發人員工具簡化 LLM 型 AI 應用程式的端對端開發週期,並支援推斷、編製索引、評估、部署和監視。

針對其中每一個,都有個別的管理程式庫和用戶端程式庫。

用於建立和管理雲端資源的管理程式庫

Azure 管理程式庫 (也稱為「控制平面」或「管理平面」),用來建立和管理應用程式所使用的雲端資源。

Azure Machine Learning

Azure AI 服務

提示流程

執行時間應用程式程式碼中使用的用戶端程式庫

Azure 用戶端程式庫 (也稱為「資料平面」),以便從執行時間應用程式程式碼連線和使用佈建的服務。

Azure AI 服務

提示流程

代理程式架構: