共用方式為


請選擇適用於 AI 的 Azure PaaS 解決方案

本文說明如何選擇 Azure AI 平台即服務(PaaS)解決方案的資源。 下表總結了主要的 Azure AI PaaS 解決方案及關鍵決策標準。

AI 服務 AI 類型 說明 需要的技能
Microsoft 鑄造廠 生成型 AI 和 非生成型 AI 建置及部署產生式和非行性 AI 應用程式的平臺 開發人員和數據科學技能
鑄造工具 生成型 AI 和 非生成型 AI 提供預先建置的衍生式和非行性 AI 模型的各種服務 開發人員技能
Azure OpenAI 生成式 AI 用於存取 OpenAI 模型的服務 開發人員和數據科學技能
Azure Machine Learning 機器學習 用於定型和部署機器學習模型的服務 開發人員技能和進階數據科學技能

選取用於生成式 AI 工作負載的資源

生成式人工智慧利用多種資源處理輸入資料並產生有意義的輸出。 為了建立有效的應用,例如使用 檢索增強生成(RAG)的應用,選擇能提供 AI 模型基礎並提供準確結果的資源。

此圖顯示產生 AI 工作負載的基本元件。

生成式 AI 工作流程

以下工作流程與上述圖表相符:

  1. AI 應用程式會接收使用者的查詢。
  2. 編排器,如 Foundry Agent Service 或 Microsoft Agent Framework,負責管理資料流。
  3. 搜尋與檢索機制會找到基礎數據。
  4. 機制會將基礎數據傳送至產生式 AI 平臺。
  5. 生成式 AI 平台利用使用者查詢與基礎資料生成回應。

Generative AI 資源選取專案

請依照以下步驟建立生成式 RAG 工作負載:

  1. 選擇生成式 AI 平台。 使用 Foundry 或 Azure OpenAI 來部署和管理生成式 AI 模型。 Foundry 提供一個以程式碼為先的平台,內建開發、部署與編排工具。 如果你只需要存取 OpenAI 模型,請選擇 Azure OpenAI。

  2. 選擇一種 AI 運算類型。 Foundry 需要針對特定功能進行 計算實例 。 選擇符合你效能與預算需求的運算類型。

  3. 選擇一個協調器。 使用像 Foundry Agent ServiceMicrosoft Agent Framework 這類編排器來管理資料流與互動。 如果你的工作負載使用多個代理,請確保你的編排器支援你需要的 AI 代理編排模式

  4. 選擇搜尋與知識檢索機制。 為了建立生成式 AI 模型,建立索引或向量資料庫以收集相關資料。 使用 Azure AI 搜尋服務 建立來自各種 data sources 的傳統索引與向量索引,套用 data chunking,並使用 多種查詢類型。 對於結構化資料庫,可以考慮 Azure Cosmos DB適用於 PostgreSQL 的 Azure 資料庫,或 Azure Managed Redis

  5. 選擇接地數據來源。 將關聯資料儲存在 Azure Blob 儲存體 中,用於圖片、音訊、影片或大型資料集。 你也可以使用由 AI 搜尋向量資料庫支援的資料庫。

  6. 選擇一個運算平台。 使用 Azure compute 決策樹 來選擇適合你工作負載的平台。

選擇非生成 AI 工作負載的資源

非行性 AI 工作負載會使用平臺、計算資源、數據源和數據處理工具來支援機器學習工作。 選擇幫助你用預建或自訂解決方案建構 AI 工作負載的資源。

此圖顯示非產生式 AI 工作負載的基本元件。

非生成式 AI 工作流程

以下工作流程與上述圖表相符:

  1. AI 應用程式擷取傳入的資料。
  2. 可選的資料處理機制會擷取或轉換資料。
  3. AI 模型端點會分析數據。
  4. 你可以利用這些數據來訓練或微調 AI 模型。

非生成性 AI 資源選擇

請依照以下步驟建立非生成式 AI 工作負載:

  1. 選擇非生成式 AI 平台。 根據你的需求,使用 Foundry Tools 或 機器學習。 Foundry Tools 提供預先建置的模型,簡化部署並減少對進階資料科學技能的需求。 機器學習 讓你能用資料開發自訂模型,並將其整合到你的工作負載中。

  2. 選擇一種 AI 運算類型。 機器學習需要計算資源來執行工作或主機端點。 選擇符合你效能與預算需求的運算類型。 Foundry 工具不需要計算資源。

  3. 選取資料來源。 使用支援的 data sources來儲存訓練資料以供機器學習。 許多鑄造工具不需要微調資料。 有些 Foundry 工具,例如 Azure AI 自訂視覺,可以讓你將本地檔案上傳到管理儲存。

  4. 選擇一個運算平台。 使用 Azure compute 決策樹 來選擇適合你工作負載的平台。

  5. 選擇資料處理服務(可選)。 使用 Azure Functions 來處理無伺服器資料。 使用 Azure 事件方格 來觸發資料處理管道。

下一步