Spring AI 和 Azure OpenAI 簡介
Spring AI 是一個功能強大的架構，可簡化 AI 功能與 Java 應用程式的整合。 在本課程模組中，您將瞭解如何使用 Spring AI 搭配 Azure OpenAI 來建置 AI 支援的應用程式和 AI 代理程式，以及部署至 Azure Container Apps。
什麼是 Spring AI？
Spring AI 提供下列抽象概念和工具，可讓您輕鬆地使用各種 AI 模型和服務：
- ChatClient API：與大型語言模型互動的核心抽象概念（LLM）。
- 多個 AI 模型提供者：支援所有主要 AI 模型提供者，包括 Azure OpenAI。
- 內嵌：產生語意搜尋的向量內嵌。
- 向量儲存整合：向量資料庫的內建支援，例如
pgvector。 - 顧問 API：封裝生成式 AI 模式 - 例如，實作檢索增強生成 (RAG)。
RAG 實作
RAG 應用程式通常具有下列功能：
- 將用戶問題轉換成向量內嵌。
- 使用向量相似度搜尋尋找類似的先前提示和回應。
- 使用找到的回應作為生成回應的上下文。
- 儲存互動以供日後參考。
代理程式和工作流程
Spring AI 也可讓您建置動態 AI 代理程式和協調的工作流程。 雖然存在各種模式，例如鏈結、平行處理和路由，但本課程模組僅著重於 評估工具優化工具 工作流程。
此模式會通過生成器-評估器循環反覆精煉輸出，確保高品質且自適應的 AI 回應。
為何要使用 Azure OpenAI 和 Container Apps？
Azure OpenAI 提供安全且可調整的平臺，可部署具有企業級功能的 AI 模型。 它可確保數據隱私權和合規性，使其適合敏感性應用程式，並與其他 Azure 服務緊密整合。
Azure Container Apps 提供無伺服器環境，以根據需求自動調整來執行容器化應用程式，簡化微服務部署和管理。
Azure PostgreSQL 是完全受控的資料庫服務，可支援向量搜尋等進階功能，為 AI 模型中使用的大型數據集提供高可用性、安全性和效能。
學習目標
完成本單元後，您將能夠：
- 瞭解 Spring AI 的核心抽象概念和 Azure OpenAI 整合。
- 建立及設定適用於向量記憶體的 Azure PostgreSQL。
- 使用 Spring AI 實作端對端 AI 應用程式和 AI 代理程式。
- 在 Azure Container Apps 上部署和調整您的應用程式。