開發使用 Azure AI 服務的應用程式

本文提供檔、範例和其他資源,以瞭解如何開發使用 Azure OpenAI 服務和其他 Azure AI 服務的應用程式。

Azure AI 參考範本

Azure AI 參考範本爲您提供維護良好且易於部署的參考實作。 這可確保智慧型應用程式的高品質起點。 端對端解決方案可提供熱門且完整的參考應用程式。 組建區塊是小規模的範例,著重於特定案例和工作。

端對端解決方案

連結 描述
使用 RAG 開始使用 .NET 企業聊天範例 本文會逐步引導您部署和使用適用於 .NET 的企業聊天應用程式範例。 此範例是完整的端對端解決方案,示範在 Azure 中執行的檢索增強生成(RAG)模式,使用 Azure AI 搜尋服務來擷取,並用 Azure OpenAI 大型語言模型來提供 ChatGPT 樣式和 Q&A 體驗。
使用RAG建置 AI 助理 此範例是完整的端對端解決方案,示範如何設計和實作Q&A AI小幫手,其使用 Azure OpenAI 服務中的內嵌 API 和完成 API ,以及 Azure Cosmos DB 中的向量資料庫

構成要素

連結 描述
使用 Azure OpenAI (Python) 組建聊天應用程式 簡單的 Python Quart 應用程式,可透過 ReadableStream 使用 JSON Line,將 ChatGPT 的回應串流至 HTML/JS 前端。 (Python 程式碼是以參考的形式提供,而且可以調整為 .NET。)
使用 Azure OpenAI (Python) 組建 LangChain 範例展示如何將人工提示作為 HTTP Get 或 Post 輸入,使用人工輸入鏈結和範本計算完成情況。 這是一個起點,可用於更複雜的鏈結。 (Python 程式碼是以參考的形式提供,而且可以調整為 .NET。)
使用 Azure 容器應用程式 (Python) 組建 ChatGPT 外掛程式 使用 GitHub Codespaces、VS Code 和 Azure 建立 ChatGPT 外掛程式的範例。 此範例包含使用 Azure 開發人員 CLI 將外掛程式部署至 Azure 容器應用程式的範本。 (Python 程式碼是以參考的形式提供,而且可以調整為 .NET。)
Azure AI .NET 範本庫 如需 Azure AI 樣本的完整清單,請瀏覽我們的資源庫。 資源庫中的所有應用程式範本都可以使用單一命令: azd up 來啟動和部署。
使用 Azure 容器應用程式進行智慧型負載平衡 此解決方案是使用 Microsoft 的高效能 YARP C# 反向 Proxy 架構 所組建。 不過,您不需要了解 C# 即可使用它,您可以只組建提供的 Docker 映像。 這是使用相同邏輯 APIM OpenAI 智慧型負載平衡器 的替代解決方案。
使用 Azure APIM 進行智慧型負載平衡 企業解決方案會示範如何建立 Azure APIM 原則,以順暢地向您的應用程式公開單一端點,同時保留有效率的邏輯,以根據可用性和優先順序取用兩個以上的 OpenAI 或任何 API 後端。

Azure OpenAI

端對端解決方案

連結 描述
使用 RAG 開始使用 .NET 企業聊天範例 本文會逐步引導您部署和使用適用於 .NET 的企業聊天應用程式範例。 此範例是完整的端對端解決方案,示範在 Azure 中執行的檢索增強生成(RAG)模式,使用 Azure AI 搜尋服務來擷取,並用 Azure OpenAI 大型語言模型來提供 ChatGPT 樣式和 Q&A 體驗。

構成要素

連結 描述
使用 Azure Cache for Redis Enterprise (Python) 進行向量相似度搜尋 本文會逐步引導您使用 Azure Cache for Redis 作為 RAG 案例的後端向量儲存。 (Python 程式碼是以參考的形式提供,而且可以調整為 .NET。)
使用 PostgreSQL (Python) 搭配自己的資料 OpenAI 解決方案 討論適用於 PostgreSQL 的 Azure 資料庫彈性伺服器和 Azure Cosmos DB for PostgreSQL 的 DB 如何支援 pgvector 延伸模組,以及概觀、案例等的文章。(Python 程式碼是以參考的形式提供,而且可以調整為 .NET。)

SDK 和其他範例/指導

連結 描述
適用於 .NET 的 Azure OpenAI SDK 適用於 .NET 的 Azure OpenAI 用戶端程式庫的GitHub 來源版本是 OpenAI 的 REST API 的改編,可提供慣用介面,並與 Azure SDK 生態系統的其餘部分進行豐富的整合。 它可以連線到 Azure OpenAI 資源或非 Azure OpenAI 推斷端點,使其成為即使是非 Azure OpenAI 開發的絕佳選擇。
Azure OpenAI SDK 版本 所有 Azure OpenAI SDK 程式庫套件的連結,包括 .NET、Java、JavaScript 和 Go 的連結。
Azure.AI.OpenAI NuGet 套件 適用於 .NET 的 Azure OpenAI 用戶端程式庫的 NuGet 版本。
使用 GPT-35-Turbo 和 GPT-4 以開始使用 逐步引導您建立聊天完成範例的文章。
完成 10 個範例的集合,示範如何使用適用於 .NET 的 Azure OpenAI 用戶端程式庫聊天、串流回覆、使用您自己的資料、轉譯/翻譯音訊、生成影像等。
串流聊天完成 示範串流完成之範例的深層連結。
OpenAI 與 Microsoft Entra ID 角色型存取控制 了解使用 Microsoft Entra ID 進行驗證。
使用受控識別的 OpenAI 一篇文章,描述需要 Azure 角色型存取控制 (Azure RBAC) 等更複雜的安全性案例。 本文件涵蓋如何使用 Microsoft Entra ID 向 OpenAI 資源進行驗證。
更多樣本 以 .NET 撰寫的 OpenAI 範例集合。
更多指導 Azure OpenAI 服務文件的中樞頁面。

其他 Azure AI 服務

端對端解決方案

連結 描述
字幕和通話中心轉譯 存放庫,其中包含通話中心案例中的字幕和謄寫範例。
使用表格辨識器,透過 Azure 表格辨識器研討會的 [新病患註冊],將紙本流程自動化。 (程式碼) 以研討會格式完整逐步解說 Azure AI 文件智慧服務案例。

構成要素

連結 描述
使用適用於語音的 Azure 認知服務與 OpenAI 交談 文章詳細說明如何使用 Azure AI 語音與 Azure OpenAI 服務交談。 由語音服務所辨識出的文字會傳送至 Azure OpenAI。 語音服務接著會合成來自 Azure OpenAI 的文字回應。
將文件在 100 多種不同的語言之間進行翻譯 一篇文章,描述如何將不同格式的本機檔案或網路檔案翻譯成 100 多種不同的語言。 支援的格式包括 HTML、PDF、所有 Office 文件格式、Markdown、MHTML、Outlook、MSG、XLIFF、CSV、TSV 和純文字。

SDK 和範例/指導

連結 描述
使用 [適用於語音的 Azure 認知服務 SDK 範例] 將語音整合到您的應用程式 Azure 認知服務語音 SDK 的範例存放庫。 語音辨識、翻譯、語音合成等範例的連結。
Azure AI 文件智慧服務 SDK Azure AI 文件智慧服務 (先前稱為 Azure 表格辨識器) 是一項雲端服務,會使用機器學習來分析文件中的文字和結構化資料。 文件智慧軟體開發套件 (SDK) 是一組程式庫和工具,可讓您輕鬆地將文件智慧模型和功能整合到應用程式中。
使用 .NET 中的 Azure 表格辨識器,從表單、收據、發票和卡片擷取結構化資料 Azure.AI.FormRecognizer 用戶端程式庫的範例存放庫。
使用 .NET 中的 [文字分析] 來擷取、分類及了解文件中的文字 適用於 [文字分析] 的用戶端程式庫。 這是 Azure AI 語言 服務的一部分,它提供自然語言處理 (NLP) 功能來了解和分析文字。
.NET 中的文件翻譯 快速入門文章,詳細說明如何使用 [文件翻譯] 在保留結構和文字格式的同時,將來源文件翻譯成目標語言。
.NET 中的文問題解答 快速入門文章,說明如何從您連同問題一起傳送的文字本文中取得答案 (和信賴分數)。
.NET 中的交談語言理解 交談語言理解 (CLU) 的用戶端程式庫是個雲端式交談式 AI 服務,可擷取交談中的意圖和實體,並像協調器一樣,選取最佳候選專案來分析交談,以從 Qna、Luis 和 Conversation App 等應用程式取得最佳回應。
分析影像 Microsoft Azure AI 影像分析 SDK 的範例程式代碼和設定檔

Azure AI 參考範本

Azure AI 參考範本爲您提供維護良好且易於部署的參考實作。 這可確保智慧型應用程式的高品質起點。 端對端解決方案可提供熱門且完整的參考應用程式。 組建區塊是小規模的範例,著重於特定案例和工作。

端對端解決方案

連結 描述
使用RAG開始使用 Python 企業聊天範例 本文會逐步引導您部署和使用適用於 PythonEnterprise 聊天應用程式範例。 此範例是完整的端對端解決方案,示範在 Azure 中執行的檢索增強生成(RAG)模式,使用 Azure AI 搜尋服務來擷取,並用 Azure OpenAI 大型語言模型來提供 ChatGPT 樣式和 Q&A 體驗。

構成要素

建置組塊 描述
在 Python 中使用 Azure OpenAI 建置聊天應用程式 簡單的 Python Quart 應用程式,可透過 ReadableStream 使用 JSON Line,將 ChatGPT 的回應串流至 HTML/JS 前端。
在 Python 中使用 Azure OpenAI 建置 LangChain Azure Functions 範例,示範如何使用人類輸入和範本鏈結,將人類提示當做 HTTP Get 或 Post 輸入來計算完成。 這是一個起點,可用於更複雜的鏈結。
在 Python 中使用 Azure Container Apps 建置 ChatGPT 外掛程式 使用 GitHub Codespaces、VS Code 和 Azure 建立 ChatGPT 外掛程式的範例。 此範例包含使用 Azure 開發人員 CLI 將外掛程式部署至 Azure 容器應用程式的範本。
摘要使用 Azure AI 語言搭配 Azure Functions 的文字 以文字文件作為輸入、使用 Azure AI Language 摘要,然後使用 Azure Functions 輸出至另一份文字檔。
Azure AI Python 範本庫 如需 Azure AI 樣本的完整清單,請瀏覽我們的資源庫。 資源庫中的所有應用程式範本都可以使用單一命令: azd up 來啟動和部署。
使用 Azure 容器應用程式進行智慧型負載平衡 範例解決方案 是使用來自 Microsoft 的高效能 YARP C# 反向 Proxy 架構 所建置。 不過,您不需要了解 C# 即可使用它,您可以只組建提供的 Docker 映像。 這是使用相同邏輯 APIM OpenAI 智慧型負載平衡器 的替代解決方案。
使用 Azure APIM 進行智慧型負載平衡 企業範例解決方案示範如何建立 Azure API 管理 原則,以順暢地向您的應用程式公開單一端點,同時保留有效率的邏輯,以根據可用性和優先順序取用兩個以上的 OpenAI 或任何 API 後端。
逸出聊天應用程式 針對一組正確或理想的答案評估聊天應用程式的答案(稱為地面真相)。 疏散工具可以與任何符合聊天通訊協定聊天 API 搭配使用。
使用 Locust 負載測試聊天應用程式 使用 Locust 測試來驗證聊天應用程式可以處理預期的負載。 如果您的聊天應用程式因 Azure OpenAI TPM 限制而無法調整 App Service,請新增負載平衡器並再次測試您的負載。 智慧型負載平衡器包括 Azure API 管理Azure Container Apps

Azure OpenAI

端對端解決方案

連結 描述
使用RAG開始使用 Python 企業聊天範例 本文會逐步引導您部署和使用適用於 PythonEnterprise 聊天應用程式範例。 此範例是完整的端對端解決方案,示範在 Azure 中執行的檢索增強生成(RAG)模式,使用 Azure AI 搜尋服務來擷取,並用 Azure OpenAI 大型語言模型來提供 ChatGPT 樣式和 Q&A 體驗。

構成要素

連結 描述
在 Python 中使用 Azure OpenAI 建置聊天應用程式 簡單的 Python Quart 應用程式,可透過 ReadableStream 使用 JSON Line,將 ChatGPT 的回應串流至 HTML/JS 前端。
在 Python 中使用 Azure OpenAI 建置 LangChain 範例展示如何將人工提示作為 HTTP Get 或 Post 輸入,使用人工輸入鏈結和範本計算完成情況。 這是一個起點,可用於更複雜的鏈結。
在 Python 中使用 Azure Container Apps 建置 ChatGPT 外掛程式 使用 GitHub Codespaces、VS Code 和 Azure 建立 ChatGPT 外掛程式的範例。 此範例包含使用 Azure 開發人員 CLI 將外掛程式部署至 Azure 容器應用程式的範本。
向量相似度搜尋與 Azure Cache for Redis Enterprise 使用 Azure Cache for Redis 作為 RAG 案例後端向量存放區的逐步解說。
使用PostgreSQL搭配您自己的數據OpenAI解決方案 討論 適用於 PostgreSQL 的 Azure 資料庫 彈性伺服器和適用於PostgreSQL的 Azure Cosmos DB 如何支援 pgvector 擴充功能,以及概觀、案例等一文。

SDK 和其他範例/指導

連結 描述
OpenAI SDK for Python OpenAI Python 連結庫的 GitHub 原始程式碼版本可讓您從以 Python 語言撰寫的應用程式存取 OpenAI API。
Azure OpenAI SDK 版本 所有 Azure OpenAI SDK 程式庫套件的連結,包括 .NET、Java、JavaScript 和 Go 的連結。
openai Python 套件 OpenAI Python 連結庫的 PyPi 版本。
使用 GPT-35-Turbo 和 GPT-4 以開始使用 逐步引導您建立聊天完成範例的文章。
串流聊天完成 筆記本,其中包含使用 Azure 端點取得聊天完成以運作的範例。 此範例著重於聊天完成,但也觸及一些其他也可使用 API 的作業。
從 OpenAI 切換至 Azure OpenAI 關於您需要對程式代碼進行小變更的指引文章,以便在 OpenAI 與 Azure OpenAI 服務之間來回交換。
內嵌 示範如何使用 Azure 端點完成的內嵌作業的筆記本。 此範例著重於內嵌,但也觸及一些其他也可使用 API 的作業。
部署模型併產生文字 以最少且直接的方式詳細說明以程序設計方式聊天的文章。
使用 Microsoft 項目識別碼角色型存取控制的 OpenAI 了解使用 Microsoft Entra ID 進行驗證。
使用受控識別的 OpenAI 具有更複雜的安全性案例的文章需要 Azure 角色型訪問控制(Azure RBAC)。 本文件涵蓋如何使用 Microsoft Entra ID 向 OpenAI 資源進行驗證。
更多樣本 編譯實用的 Azure OpenAI 服務資源和程式代碼範例,以協助您開始並加速技術採用旅程。
更多指導 Azure OpenAI 服務文件的中樞頁面。

其他 Azure AI 服務

端對端解決方案

連結 描述
字幕和通話中心轉譯 存放庫,其中包含通話中心案例中的字幕和謄寫範例。
使用檔案智慧將新患者註冊與 表格辨識器 研討會的論文型程式自動化(程式代碼 研討會樣式簡報會引導您瞭解如何使用檔智慧來轉換和自動化以紙張為基礎的程式。

構成要素

連結 描述
使用適用於語音的 Azure 認知服務與 OpenAI 交談 使用 Azure AI 語音與 Azure OpenAI 服務交談。 由語音服務所辨識出的文字會傳送至 Azure OpenAI。 語音服務會合成來自 Azure OpenAI 的文字回應。
使用檔案翻譯範例應用程式,將文件翻譯成 100 多個不同語言 存放庫,其中包含命令行工具和 Windows 應用程式,可作為適用於 Windows、macOS 和 Linux 之 Azure 檔案翻譯服務的本機介面。

SDK 和範例/指導

連結 描述
使用 [適用於語音的 Azure 認知服務 SDK 範例] 將語音整合到您的應用程式 Azure 認知服務語音 SDK 的範例。 語音辨識、翻譯、語音合成等範例的連結。
Azure AI 文件智慧服務 SDK Azure AI 文件智慧服務 (先前稱為 Azure 表格辨識器) 是一項雲端服務,會使用機器學習來分析文件中的文字和結構化資料。 文件智慧軟體開發套件 (SDK) 是一組程式庫和工具,可讓您輕鬆地將文件智慧模型和功能整合到應用程式中。
使用 Python 中的 表格辨識器,從表單、收據、發票和卡片中擷取結構化數據 Azure.AI.FormRecognizer 用戶端連結庫的範例。
在 Python 中使用 文字分析 來擷取、分類及了解檔中的文字 適用於 [文字分析] 的用戶端程式庫。 這是 Azure AI 語言 服務的一部分,它提供自然語言處理 (NLP) 功能來了解和分析文字。
Python 中的文件翻譯 使用文件翻譯將源文檔翻譯成目標語言,同時保留結構和文字格式的快速入門文章。
Python 中的問題解答 快速入門文章,其中包含從您連同問題一起傳送的文字本文中取得答案(和信賴分數)的步驟。
Python 中的對話式語言理解 交談語言理解 (CLU) 的用戶端程式庫是個雲端式交談式 AI 服務,可擷取交談中的意圖和實體,並像協調器一樣,選取最佳候選專案來分析交談,以從 Qna、Luis 和 Conversation App 等應用程式取得最佳回應。
分析影像 Microsoft Azure AI 影像分析 SDK 的範例程式代碼和設定檔
適用於 Python 的 Azure AI 內容 保管庫 ty SDK 偵測應用程式和服務中有害的用戶產生和 AI 產生的內容。 內容 保管庫 ty 包含文字和影像 API,可讓您偵測有害的材料。

Azure AI 參考範本

Azure AI 參考範本爲您提供維護良好且易於部署的參考實作。 這可確保智慧型應用程式的高品質起點。 端對端解決方案可提供熱門且完整的參考應用程式。 組建區塊是小規模的範例,著重於特定案例和工作。

端對端解決方案

連結 描述
使用RAG開始使用JavaScript企業聊天範例 本文會逐步引導您部署及使用適用於 JavaScript 的企業聊天應用程式範例。 此範例是完整的端對端解決方案,示範在 Azure 中執行的檢索增強生成(RAG)模式,使用 Azure AI 搜尋服務來擷取,並用 Azure OpenAI 大型語言模型來提供 ChatGPT 樣式和 Q&A 體驗。

構成要素

連結 描述
使用 Azure OpenAI (Python) 組建聊天應用程式 簡單的 Python Quart 應用程式,可透過 ReadableStream 使用 JSON Line,將 ChatGPT 的回應串流至 HTML/JS 前端。 (Python 程式代碼是以參考的形式提供,而且可以調整為 JavaScript。
使用 Azure OpenAI (Python) 組建 LangChain 範例展示如何將人工提示作為 HTTP Get 或 Post 輸入,使用人工輸入鏈結和範本計算完成情況。 這是一個起點,可用於更複雜的鏈結。 (Python 程式代碼是以參考的形式提供,而且可以調整為 JavaScript。
使用 Azure 容器應用程式 (Python) 組建 ChatGPT 外掛程式 使用 GitHub Codespaces、VS Code 和 Azure 建立 ChatGPT 外掛程式的範例。 此範例包含使用 Azure 開發人員 CLI 將外掛程式部署至 Azure 容器應用程式的範本。 (Python 程式代碼是以參考的形式提供,而且可以調整為 JavaScript。
Azure AI JavaScript 範本庫 如需 Azure AI 樣本的完整清單,請瀏覽我們的資源庫。 資源庫中的所有應用程式範本都可以使用單一命令: azd up 來啟動和部署。
使用 Azure 容器應用程式進行智慧型負載平衡 範例解決方案 是使用來自 Microsoft 的高效能 YARP C# 反向 Proxy 架構 所建置。 不過,您不需要了解 C# 即可使用它,您可以只組建提供的 Docker 映像。 這是使用相同邏輯 APIM OpenAI 智慧型負載平衡器 的替代解決方案。
使用 Azure APIM 進行智慧型負載平衡 企業解決方案會示範如何建立 Azure APIM 原則,以順暢地向您的應用程式公開單一端點,同時保留有效率的邏輯,以根據可用性和優先順序取用兩個以上的 OpenAI 或任何 API 後端。
逸出聊天應用程式 針對一組正確或理想的答案評估聊天應用程式的答案(稱為地面真相)。 疏散工具可以與任何符合聊天通訊協定聊天 API 搭配使用。

Azure OpenAI

端對端解決方案

連結 描述
使用RAG開始使用JavaScript企業聊天範例 本文會逐步引導您部署及使用適用於 JavaScript 的企業聊天應用程式範例。 此範例是完整的端對端解決方案,示範在 Azure 中執行的檢索增強生成(RAG)模式,使用 Azure AI 搜尋服務來擷取,並用 Azure OpenAI 大型語言模型來提供 ChatGPT 樣式和 Q&A 體驗。

構成要素

連結 描述
使用 Azure Cache for Redis Enterprise (Python) 進行向量相似度搜尋 使用 Azure Cache for Redis 作為 RAG 案例後端向量存放區的逐步解說。 (Python 程式代碼是以參考的形式提供,而且可以調整為 JavaScript。
使用 PostgreSQL (Python) 搭配自己的資料 OpenAI 解決方案 一篇討論 適用於 PostgreSQL 的 Azure 資料庫 彈性伺服器和適用於 PostgreSQL 的 Azure Cosmos DB 如何支援 pgvector 延伸模組,以及概觀、案例等一文(Python 程式代碼是以參考的形式提供,並可調整為 JavaScript。

SDK

套件 原始程式碼 版本 npm \(英文\)
@azure/openai 原始程式碼 發行 套件

範例和指引

連結 描述
使用 GPT-35-Turbo 和 GPT-4 以開始使用 逐步引導您建立聊天完成範例的文章。
完成 示範如何取得所提供提示之完成的簡單範例。
串流聊天完成 示範如何使用串流聊天完成的簡單範例。
從 OpenAI 切換至 Azure OpenAI 文章提供您需要對程式代碼進行小變更的指引,以便在OpenAI與 Azure OpenAI 服務之間來回交換。
OpenAI 與 Microsoft Entra ID 角色型存取控制 了解使用 Microsoft Entra ID 進行驗證。
使用受控識別的 OpenAI 詳細說明更複雜的安全性案例的文章需要 Azure 角色型訪問控制(Azure RBAC)。 本文件涵蓋如何使用 Microsoft Entra ID 向 OpenAI 資源進行驗證。
更多樣本 OpenAI 範例涵蓋各種案例。
更多指導 Azure OpenAI 服務文件的中樞頁面。

開放原始碼整合

SDK

套件 原始程式碼 版本 npm \(英文\)
@langchain/azure-openai 原始程式碼 發行 套件

其他 Azure AI 服務

端對端解決方案

連結 描述
字幕和通話中心轉譯 存放庫,其中包含通話中心案例中的字幕和謄寫範例。

構成要素

連結 描述
使用語音與 OpenAI 交談 (C# 和 Python) 使用 Azure AI 語音與 Azure OpenAI 服務交談的文章。 由語音服務所辨識出的文字會傳送至 Azure OpenAI。 語音服務會合成來自 Azure OpenAI 的文字回應。 (C# 和 Python 程式代碼是以參考的形式提供,而且可以調整為 JavaScript。

SDK

連結 描述
Azure AI 文件智慧服務 SDK Azure AI 文件智慧服務 (先前稱為 Azure 表格辨識器) 是一項雲端服務,會使用機器學習來分析文件中的文字和結構化資料。 文件智慧軟體開發套件 (SDK) 是一組程式庫和工具,可讓您輕鬆地將文件智慧模型和功能整合到應用程式中。

範例和指引

連結 描述
使用 [適用於語音的 Azure 認知服務 SDK 範例] 將語音整合到您的應用程式 Azure 認知服務語音 SDK 的範例集合。 語音辨識、翻譯、語音合成等範例的連結。
使用 JavaScript 中的 表格辨識器,從窗體、收據、發票和卡片擷取結構化數據 Azure.AI.FormRecognizer 用戶端連結庫的範例集合。
使用 JavaScript 中的 文字分析 來擷取、分類及了解檔中的文字 適用於 [文字分析] 的用戶端程式庫。 這是 Azure AI 語言 服務的一部分,它提供自然語言處理 (NLP) 功能來了解和分析文字。
JavaScript 中的文件翻譯 使用文件翻譯將源文檔翻譯成目標語言,同時保留結構和文字格式的快速入門文章。
分析影像 Microsoft Azure AI 影像分析 SDK 的範例程式代碼和設定檔。

Azure AI 參考範本

Azure AI 參考範本爲您提供維護良好且易於部署的參考實作。 這可確保智慧型應用程式的高品質起點。 端對端解決方案可提供熱門且完整的參考應用程式。 組建區塊是小規模的範例,著重於特定案例和工作。

端對端解決方案

連結 描述
使用RAG開始使用Java企業聊天範例 本文會逐步引導您部署和使用適用於 Java 的企業聊天應用程式範例。 此範例是完整的端對端解決方案,示範在 Azure 中執行的檢索增強生成(RAG)模式,使用 Azure AI 搜尋服務來擷取,並用 Azure OpenAI 大型語言模型來提供 ChatGPT 樣式和 Q&A 體驗。

構成要素

連結 描述
使用 Azure OpenAI (Python) 組建聊天應用程式 簡單的 Python Quart 應用程式,可透過 ReadableStream 使用 JSON Line,將 ChatGPT 的回應串流至 HTML/JS 前端。 (Python 程式代碼是以參考的形式提供,而且可以適應 Java。
使用 Azure OpenAI (Python) 組建 LangChain 範例展示如何將人工提示作為 HTTP Get 或 Post 輸入,使用人工輸入鏈結和範本計算完成情況。 這是一個起點,可用於更複雜的鏈結。 (Python 程式代碼是以參考的形式提供,而且可以適應 Java。
使用 Azure 容器應用程式 (Python) 組建 ChatGPT 外掛程式 使用 GitHub Codespaces、VS Code 和 Azure 建立 ChatGPT 外掛程式的範例。 此範例包含使用 Azure 開發人員 CLI 將外掛程式部署至 Azure 容器應用程式的範本。 (Python 程式代碼是以參考的形式提供,而且可以適應 Java。
Azure AI Java 範本庫 如需 Azure AI 樣本的完整清單,請瀏覽我們的資源庫。 資源庫中的所有應用程式範本都可以使用單一命令: azd up 來啟動和部署。
使用 Azure 容器應用程式進行智慧型負載平衡 範例解決方案 是使用來自 Microsoft 的高效能 YARP C# 反向 Proxy 架構 所建置。 不過,您不需要了解 C# 即可使用它,您可以只組建提供的 Docker 映像。 這是使用相同邏輯 APIM OpenAI 智慧型負載平衡器 的替代解決方案。
使用 Azure APIM 進行智慧型負載平衡 企業解決方案會示範如何建立 Azure APIM 原則,以順暢地向您的應用程式公開單一端點,同時保留有效率的邏輯,以根據可用性和優先順序取用兩個以上的 OpenAI 或任何 API 後端。

Azure OpenAI

端對端解決方案

連結 描述
使用RAG開始使用Java企業聊天範例 本文會逐步引導您部署和使用適用於 Java 的企業聊天應用程式範例。 此範例是完整的端對端解決方案,示範在 Azure 中執行的檢索增強生成(RAG)模式,使用 Azure AI 搜尋服務來擷取,並用 Azure OpenAI 大型語言模型來提供 ChatGPT 樣式和 Q&A 體驗。

構成要素

連結 描述
使用 Azure Cache for Redis Enterprise (Python) 進行向量相似度搜尋 本文會逐步引導您使用 Azure Cache for Redis 作為 RAG 案例的後端向量儲存。 (Python 程式代碼是以參考的形式提供,而且可以適應 Java。
使用 PostgreSQL (Python) 搭配自己的資料 OpenAI 解決方案 討論 適用於 PostgreSQL 的 Azure 資料庫 彈性伺服器和適用於PostgreSQL的 Azure Cosmos DB 如何支援 pgvector 擴充功能,以及概觀、案例等的文章(Python 程式代碼是以參考方式提供,而且可以調整為 Java。

SDK

套件 原始程式碼 版本 Maven
azure-ai-openai 原始程式碼 發行 Maven 套件
azure-ai-openai-assistants 原始程式碼 發行 Maven 套件

範例和指引

連結 描述
使用 GPT-35-Turbo 和 GPT-4 以開始使用 逐步引導您建立聊天完成範例的文章。
完成 示範如何取得所提供提示之完成的簡單範例。
串流聊天完成 示範如何使用串流聊天完成的簡單範例。
從 OpenAI 切換至 Azure OpenAI 文章,其中包含您需要對程式代碼進行小變更的指引,以便在OpenAI與 Azure OpenAI 服務之間來回交換。
OpenAI 與 Microsoft Entra ID 角色型存取控制 使用 Microsoft Entra ID 查看驗證的文章。
使用受控識別的 OpenAI 文章詳細說明需要 Azure 角色型訪問控制 (Azure RBAC) 更複雜的安全性案例。 本文件涵蓋如何使用 Microsoft Entra ID 向 OpenAI 資源進行驗證。
其他範例 Azure OpenAI 服務範例是一組獨立的 Java 程式,示範如何使用用戶端連結庫與 Azure OpenAI 服務互動。 每個範例都著重於特定案例,而且可以獨立執行。
更多指導 Azure OpenAI 服務文件的中樞頁面。

開放原始碼整合

SDK

套件 原始程式碼 版本 Maven
langchain4j-azure-open-ai 原始程式碼 發行 Maven 套件
langchain4j-azure-ai-search 原始程式碼 發行 Maven
langchain4j-document-loader-azure-storage-blob n/a 發行 Maven

其他 Azure AI 服務

端對端解決方案

連結 描述
字幕和通話中心轉譯 存放庫,其中包含通話中心案例中的字幕和謄寫範例。

SDK

連結 描述
Azure AI 文件智慧服務 SDK Azure AI 文件智慧服務 (先前稱為 Azure 表格辨識器) 是一項雲端服務,會使用機器學習來分析文件中的文字和結構化資料。 文件智慧軟體開發套件 (SDK) 是一組程式庫和工具,可讓您輕鬆地將文件智慧模型和功能整合到應用程式中。

範例和指引

連結 描述
使用 [適用於語音的 Azure 認知服務 SDK 範例] 將語音整合到您的應用程式 Azure 認知服務語音 SDK 的範例集合。 語音辨識、翻譯、語音合成等範例的連結。
使用 Java 中的 表格辨識器,從窗體、收據、發票和卡片擷取結構化數據 Azure.AI.FormRecognizer 用戶端連結庫的範例集合。
使用 Java 中的 文字分析 來擷取、分類及了解檔中的文字 適用於 [文字分析] 的用戶端程式庫。 這是 Azure AI 語言 服務的一部分,它提供自然語言處理 (NLP) 功能來了解和分析文字。
Java 中的文件翻譯 快速入門文章,說明如何使用文件翻譯將源文檔翻譯成目標語言,同時保留結構和文字格式。
分析影像 Microsoft Azure AI 影像分析 SDK 的範例程式代碼和設定檔

OpenAI for Go 開發人員

連結 描述
Azure OpenAI SDK for Go Azure OpenAI SDK for Go 的 GitHub 來源版本。
Azure OpenAI SDK 版本 所有 Azure OpenAI SDK 程式庫套件的連結,包括 .NET、Java、JavaScript 和 Go 的連結。
套件 (pkg.go.dev) 適用於 Go 的 Azure OpenAI 用戶端模組 Go 套件版本。
使用 GPT-35-Turbo 和 GPT-4 以開始使用 逐步引導您建立聊天完成範例的文章。
ChatCompletions 示範如何實作完成的簡單範例。
使用 Functions 的 ChatCompletions 示範如何使用 Functions 實作完成的簡單範例。
串流聊天完成 示範如何實作串流完成的簡單範例。
影像產生 實作映像產生的簡單範例。
內嵌 示範如何建立內嵌的簡單範例。
其他範例 適用於 Go 之 OpenAI 用戶端模組的檔案 Go 套件版本。
更多指導 Azure OpenAI 服務文件的中樞頁面。

保護您的 Azure AI 資源

連結 描述
OpenAI 與 Microsoft Entra ID 角色型存取控制 了解使用 Microsoft Entra ID 進行驗證。
使用受控識別的 OpenAI 文章詳細說明需要 Azure 角色型訪問控制 (Azure RBAC) 更複雜的安全性案例。 本文件涵蓋如何使用 Microsoft Entra ID 向 OpenAI 資源進行驗證。

語音/視覺

連結 描述
Go 中的標題和通話中心轉譯 存放庫,其中包含通話中心案例中的字幕和謄寫範例。
將語音整合到您的應用程式與適用於 Go 的語音 SDK Azure 認知服務語音 SDK 的來源。

語言

連結 描述
使用 Go 中的 文字分析 來擷取、分類及了解檔中的文字 文字分析 的用戶端連結庫是 Azure 認知服務語言服務的一部分,這是雲端式服務,可提供自然語言處理 (NLP) 功能來瞭解和分析文字。
Go 中的文件翻譯 說明如何使用檔翻譯將源文檔翻譯成目標語言,同時保留結構和文字格式的快速入門文章。