AI 應用的組成部分

已完成

Microsoft 支援 AI 應用的每一層:資料層、模型層、計算層與編排層。

資料層

資料層是任何 AI 應用的基礎。 它包含用於訓練、推理與決策的資料的收集、儲存與管理。 常見資料來源包括結構化資料庫如 Azure SQL 和 PostgreSQL、非結構化資料如文件與影像,以及即時串流。 像 Cosmos DB 和 Azure Data Lake 這類 Azure 服務常被用來有效儲存和管理大規模資料集。

Microsoft 提供資料庫作為平台即服務(PaaS)的服務。 平台服務是受管理的雲端服務,提供開發、部署及執行應用程式的基礎組件,無需使用者自行管理底層基礎設施。 PaaS 介於雲端服務模型中的基礎設施即服務(IaaS)與軟體即服務(SaaS)之間。

模型圖層

模型層涉及機器學習或 AI 模型的選擇、訓練與部署。 模型可以預先訓練(例如:Foundry Models 中的 Azure OpenAI),或利用 Azure Machine Learning 等平台自訂建置。 此層亦包含微調、評估及版本控制模型的工具,以確保其符合效能與準確性要求。 Microsoft Foundry 是一個統一的 Azure 平台即服務(Platform-as-a-Service),用於企業 AI 作業,為應用程式開發者提供完整的模型目錄。

計算層

AI 應用需要運算資源來訓練和執行模型。 Microsoft 提供多種平台選項:

  • Azure App Service 用於託管網頁應用程式和 API。
  • Azure Functions 用於無伺服器、事件驅動的 AI 任務執行。
  • 用於可擴展且可攜式部署 AI 模型與服務的容器。 Azure 容器實例 (ACI)提供輕量級、無伺服器容器執行,非常適合需要快速部署與簡單擴展的 AI 工作負載。 Azure Kubernetes Service (AKS)是一項完全受控的 Kubernetes 服務,提供企業級的 AI 工作負載編排。

備註

應用程式介面(API)定義了一個元件使用另一個元件服務所需的資訊。 API 使軟體元件能夠安全通訊。

整合與編排層

整合與協調層將模型與資料與業務邏輯及使用者介面連結起來。 Foundry 在此扮演關鍵角色,提供:

  • 能夠建立可推理與行動的智慧 Agent 之服務。
  • AI 工具如語音、視覺與語言 API。
  • 軟體開發套件(SDK)與 API,用於將 AI 功能整合進應用程式。
  • 管理模型、代理與工作流程的入口網站工具。

透過使用 Foundry 來建置應用程式,開發者能將智慧直接嵌入資料層,打造更聰明且反應靈敏的應用程式。 接下來,讓我們仔細看看 Foundry。