共用方式為

AI 應用程式範本

  • 發行項

本檔章節將 為您介紹 AI 應用程式範本 和相關文章，這些文章會使用這些範本來示範如何執行重要的開發人員工作。 AI 應用程式範本提供您妥善維護且易於部署的參考實作，以協助確保 AI 應用程式的高品質起點。

AI 應用程式範本有兩種類別：組建區塊和端對端解決方案。 下列各節介紹本文頂端所選取程式設計語言之每個類別中的一些主要範本。 若要流覽包含這些和其他範本的更完整清單，請參閱 AI 應用程式範本資源庫中的 AI 應用程式範本。

構成要素

組建區塊是小規模的範例，其著重於特定案例和工作。 大部分建置組塊都示範針對使用您自己的數據的聊天應用程式運用 端對端解決方案 的功能。

建置組塊 描述
使用 Azure Container Apps 進行負載平衡 了解如何將負載平衡新增至您的應用程式，以將聊天應用程式延伸至 Azure OpenAI 權杖及模型配額限制之外。 此方法會使用 Azure 容器應用程式來建立三個 Azure OpenAI 端點，以及一個主要容器將連入流量導向三個端點之一。
建置組塊 描述
設定聊天應用程式的檔案安全性 當您使用RAG模式搭配您自己的資料建置聊天應用程式時，請確定每個用戶會根據其許可權接收答案。 授權的使用者應該能夠存取聊天應用程式檔內所含的解答。 未經授權的使用者不應該從他們沒有授權查看的安全檔存取答案。
評估聊天應用程式答案 瞭解如何針對一組正確或理想的答案來評估聊天應用程式的答案（稱為地面真相）。 每當您以影響答案的方式變更聊天應用程式時，請執行評估來比較變更。 此示範應用程式提供您目前可以使用的工具，讓您更輕鬆地執行評估。
使用 Azure Container Apps 進行負載平衡 了解如何將負載平衡新增至您的應用程式，以將聊天應用程式延伸至 Azure OpenAI 權杖及模型配額限制之外。 此方法會使用 Azure 容器應用程式來建立三個 Azure OpenAI 端點，以及一個主要容器將連入流量導向三個端點之一。
使用 API 管理 進行負載平衡 了解如何將負載平衡新增至您的應用程式，以將聊天應用程式延伸至 Azure OpenAI 權杖及模型配額限制之外。 此方法會使用 Azure API 管理 來建立三個 Azure OpenAI 端點，以及將連入流量導向至三個端點之一的主要容器。
使用 Locust 測試 Python 聊天應用程式負載 瞭解使用RAG模式搭配Locust在 Python 聊天應用程式上執行負載測試的程式，這是熱門的開放原始碼負載測試工具。 負載測試的主要目標是確保聊天應用程式上預期的負載不會超過目前的 Azure OpenAI 交易每分鐘 （TPM） 配額。 藉由模擬負載過重的用戶行為，您可以找出應用程式的潛在瓶頸和延展性問題。
使用無金鑰驗證保護您的 AI 應用程式 瞭解使用無密鑰驗證保護您的 Python Azure OpenAI 聊天應用程式的程式。 對大部分 Azure 服務的應用程式要求應該使用無密鑰或無密碼連線進行驗證。 無金鑰驗證可透過帳戶金鑰提供改良的管理和安全性優勢，因為沒有要儲存的金鑰 (或連接字串)。
建置組塊 描述
使用 Azure Container Apps 進行負載平衡 了解如何將負載平衡新增至您的應用程式，以將聊天應用程式延伸至 Azure OpenAI 權杖及模型配額限制之外。 此方法會使用 Azure 容器應用程式來建立三個 Azure OpenAI 端點，以及一個主要容器將連入流量導向三個端點之一。
建置組塊 描述
評估聊天應用程式答案 瞭解如何針對一組正確或理想的答案來評估聊天應用程式的答案（稱為地面真相）。 每當您以影響答案的方式變更聊天應用程式時，請執行評估來比較變更。 此示範應用程式提供您目前可以使用的工具，讓您更輕鬆地執行評估。
使用 Azure Container Apps 進行負載平衡 了解如何將負載平衡新增至您的應用程式，以將聊天應用程式延伸至 Azure OpenAI 權杖及模型配額限制之外。 此方法會使用 Azure 容器應用程式來建立三個 Azure OpenAI 端點，以及一個主要容器將連入流量導向三個端點之一。
使用 API 管理 進行負載平衡 了解如何將負載平衡新增至您的應用程式，以將聊天應用程式延伸至 Azure OpenAI 權杖及模型配額限制之外。 此方法會使用 Azure API 管理 來建立三個 Azure OpenAI 端點，以及將連入流量導向三個端點之一的主要容器。

端對端解決方案

端對端解決方案是完整的參考範例，包括檔、原始程式碼和部署，可讓您針對自己的用途採取和擴充。

使用 Azure OpenAI 和 Azure AI 搜尋搭配 .NET 與您的數據聊天

此範本是完整的端對端解決方案，示範在 Azure 中執行的擷取擴增世代 （RAG） 模式。 它會使用 Azure AI 搜尋來擷取和 Azure OpenAI 大型語言模型，來提供 ChatGPT 樣式和問答體驗。

若要開始使用此範本，請參閱 使用您自己的 .NET 數據範例開始使用聊天。 若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 azure-search-openai-demo-csharp GitHub 存放庫。

此圖顯示 .NET 從用戶端到後端應用程式的架構。

瀏覽器中 .NET 聊天應用程式的螢幕快照，其中顯示聊天輸入的數個建議，以及要輸入問題的聊天文本框。

此範本示範這些功能的使用。

Azure 主控解決方案 技術 AI 模型
Azure 容器應用程式
Azure Functions		 Azure OpenAI
Azure 電腦視覺
Azure 表格辨識器
Azure AI 搜尋服務
Azure 儲存體		 GPT 3.5 Turbo
GPT 4.0

Contoso 聊天零售 Copilot 與 .NET 和 Semantic Kernel

此範本會實作 Contoso Outdoors，這是一家概念性商店，專門提供徒步旅行和露營愛好者的戶外裝備。 此虛擬市集透過智慧型手機聊天代理程式增強客戶參與和銷售支援。 此代理程式是由 Microsoft Azure AI Stack 內的擷取擴增世代 （RAG） 模式提供技術支援，並以語意核心和提示支持進行擴充。

若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 contoso-chat-csharp-prompty GitHub 存放庫。

顯示從用戶端到後端應用程式的架構以進行徒步旅行的圖表。

.NET 徒步旅行和露營愛好者商店的螢幕快照。

此範本示範這些功能的使用。

Azure 主控解決方案 技術 AI 模型
Azure 容器應用程式
 Azure OpenAI
Microsoft Entra ID
Azure 受控識別
Azure 監視器
Azure AI 搜尋服務
Azure AI Studio
Azure SQL
Azure 儲存體		 GPT 3.5 Turbo
GPT 4.0

使用語音轉換文字處理自動化，並使用 .NET 和 GPT 3.5 Turbo 進行摘要

此範本是一種程式自動化解決方案，可接收公司 Contoso Manufacturing 公司現場和店面工人回報的問題，該公司是製造汽車電池的製造公司。 背景工作角色會透過麥克風輸入或預先錄製為音訊檔案來共享問題。 解決方案會將音訊輸入從語音轉譯為文字，然後使用 LLM 和 Prompty 或 Promptflow 來摘要問題，並以解決方案指定的格式傳回結果。

若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 摘要-openai-csharp-prompty GitHub 存放庫。

.NET webapp 的螢幕快照，其中包含 Contoso Manufacturing 的語音轉換文字和摘要的側邊聊天。

此範本示範這些功能的使用。

Azure 主控解決方案 技術 AI 模型
Azure 容器應用程式 語音轉換文字
摘要
Azure OpenAI		 GPT 3.5 Turbo

使用 Azure OpenAI 和 Azure AI 搜尋搭配 Python 與您的數據聊天

此範本是完整的端對端解決方案，示範在 Azure 中執行的擷取擴增世代 （RAG） 模式。 其會使用 Azure AI 搜尋來擷取和 Azure OpenAI 大型語言模型，來提供 ChatGPT 樣式和問答 （Q&A） 體驗。

若要開始使用此範本，請參閱 使用您自己的 Python 數據範例開始使用聊天。 若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 azure-search-openai-demo GitHub 存放庫。

瀏覽器中聊天應用程式的螢幕擷取畫面，其中顯示數個聊天輸入建議，以及可輸入問題的聊天文字方塊。

此圖顯示從用戶端到後端應用程式的架構。

此範本示範這些功能的使用。

Azure 主控解決方案 技術 AI 模型
Azure 容器應用程式 Azure OpenAI
Azure AI 搜尋服務
Azure Blob 儲存體
Azure 監視器
Azure 文件智慧
 GPT 3.5 Turbo
GPT 4
GPT 4o
GPT 4o-mini

多模式創意寫作科皮洛特與 DALL-E

此範本是創造性的撰寫多代理程式解決方案，可協助使用者撰寫文章。 它示範如何建立及使用 Azure OpenAI 驅動的 AI 代理程式。

包括：

  1. 從使用者取得文章和指示的 Flask 應用程式。
  2. 使用 Bing 搜尋 API 來研究文章的研究代理程式。
  3. 使用 Azure AI 搜尋 進行語意相似性搜尋的產品代理程式，可從向量存放區搜尋相關產品。
  4. 將研究與產品信息結合成實用文章的寫入器代理。
  5. 編輯器代理程式，可精簡向用戶呈現的文章。

若要存取原始程式碼並閱讀範本的相關深入詳細數據，請參閱 agent-openai-python-prompty GitHub 存放庫。

Python 多模式創意撰寫 Copilot 應用程式的架構圖表。

此範本示範這些功能的使用。

Azure 主控解決方案 技術 AI 模型
Azure Container Registry
Azure Kubernetes
 Azure OpenAI
Bing 搜尋
Azure 受控識別
Azure 監視器
Azure AI 搜尋服務
Azure AI Studio		 GPT 3.5 Turbo
GPT 4.0
DALL-E

Contoso Chat Retail Copilot with AI Studio

此範本會實作 Contoso Chat - Contoso Outdoor 的零售 Copilot 解決方案，其使用 擷取增強的世代 設計模式，將零售商產品和客戶數據中的聊天機器人響應進行地面。 客戶可以使用自然語言從網站詢問問題，並根據購買歷程記錄取得潛在建議的相關回應，並採用負責任的 AI 做法，以確保回應品質和安全性。

此範本說明使用 Azure AI 和 Prompty 建置以 RAG 為基礎的 Copilot 程式代碼優先 的端對端工作流程 （GenAIOps）。 藉由探索和部署此範例，瞭解如何：

  1. 使用 Prompty 快速逐一查看應用程式原型
  2. 部署及使用 Azure OpenAI 模型進行聊天、內嵌和評估
  3. 使用 Azure AI 搜尋 （索引） 和 Azure Cosmos DB （資料庫） 來取得您的數據
  4. 使用 AI 輔助評估流程評估聊天回應品質
  5. 將應用程式裝載為部署至 Azure Container Apps 的 FastAPI 端點
  6. 使用 Azure 開發人員 CLI 布建和部署解決方案
  7. 使用內容安全性與評量支援負責任的 AI 做法

若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 contoso-chat GitHub 存放庫。

顯示從用戶端到後端應用程式的架構以進行徒步旅行的圖表。

Contoso 聊天零售員警視覺效果編輯器中提示流程的聊天應用程式螢幕快照。

此範本示範這些功能的使用。

Azure 主控解決方案 技術 AI 模型
Azure 容器應用程式
 Azure OpenAI
Azure AI 搜尋服務
Azure AI Studio
Prompty
Azure Cosmos DB		 GPT 3.5 Turbo
GPT 4.0
受控整合運行時間 （MIR）

使用語音轉換文字處理自動化，並使用 AI Studio 進行摘要

此範本會建立 Web 應用程式，讓 Contoso Manufacturing 公司的員工透過文字或語音回報問題。 音訊輸入會轉譯成文字，然後摘要以醒目提示重要資訊，並將報告傳送至適當的部門。

若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 摘要-openai-python-promptflow GitHub 存放庫。

使用適用於 Python 的 AI Studio 進行語音轉換文字和摘要的程式自動化架構圖表。

此範本示範這些功能的使用。

Azure 主控解決方案 技術 AI 模型
Azure 容器應用程式 Azure AI Studio
語音轉換文字服務
Prompty
受控整合運行時間 （MIR）		 GPT 3.5 Turbo

使用 Python 和 Azure AI Studio 的助理 API 分析 Copilot

此範本是小幫手 API，可與表格式數據聊天，並以自然語言執行分析。

若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 assistant-data-openai-python-promptflow GitHub 存放庫。

助理 API 與表格式數據聊天並以自然語言執行分析的架構圖表。

此範本示範這些功能的使用。

Azure 主控解決方案 技術 AI 模型
Machine Learning 服務 Azure AI 搜尋服務
Azure AI Studio
受控整合運行時間 （MIR）
Azure OpenAI		 GPT 3.5 Turbo
GPT 4

使用 Azure OpenAI 和 Azure AI 搜尋搭配 Java 與您的數據聊天

此範本是完整的端對端解決方案，示範在 Azure 中執行的擷取增強式產生 （RAG） 模式。 它會使用 Azure AI 搜尋來擷取和 Azure OpenAI 大型語言模型，來提供 ChatGPT 樣式和問答體驗。

若要開始使用此範本，請參閱 使用您自己的 Java 資料範例開始使用聊天。 若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 azure-search-openai-demo-java GitHub 存放庫。

此圖顯示 Java 中從用戶端到後端應用程式的架構。

瀏覽器中 Java 聊天應用程式的螢幕快照，其中顯示聊天輸入的數個建議，以及要輸入問題的聊天文本框。

此範本示範這些功能的使用。

Azure 主控解決方案 技術 AI 模型
Azure App Service
Azure 容器應用程式
Azure Kubernetes Service		 Azure OpenAI
Azure AI 搜尋服務
Azure 儲存體
Azure 監視器

使用 Azure OpenAI 和 Azure AI Search 與 JavaScript 與您的數據聊天

此範本是完整的端對端解決方案，示範在 Azure 中執行的擷取擴增世代 （RAG） 模式。 它會使用 Azure AI 搜尋來擷取和 Azure OpenAI 大型語言模型，來提供 ChatGPT 樣式和問答體驗。

若要開始使用此範本，請參閱 使用您自己的 JavaScript 資料範例開始使用聊天。 若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 azure-search-openai-javascript GitHub 存放庫。

此圖顯示從用戶端到後端應用程式的架構。

瀏覽器中聊天應用程式的螢幕擷取畫面，其中顯示數個聊天輸入建議，以及可輸入問題的聊天文字方塊。

此範本示範這些功能的使用。

Azure 主控解決方案 技術 AI 模型
Azure 容器應用程式
Azure 靜態 Web 應用程式		 Azure OpenAI
Azure AI 搜尋服務
Azure 儲存體
Azure 監視器		 text-embedding-ada-002

Azure OpenAI 聊天前端

此範本是可連結至任何後端實作做為用戶端的最低 OpenAI 聊天 Web 元件。

若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 azure-openai-chat-frontend GitHub 存放庫。

示範 JavaScript 聊天前端應用程式的影片。

此範本示範這些功能的使用。

Azure 主控解決方案 技術 AI 模型
Azure 靜態 Web 應用程式 Azure AI 搜尋服務
Azure OpenAI		 GPT 3.5 Turbo
GPT4

使用 LangChain.js 與RAG進行無伺服器 AI 聊天

此範本是無伺服器 AI 聊天機器人，使用 LangChain.js 和 Azure 來擷取擴增世代，使用一組企業檔來產生使用者查詢的回應。 它使用名為 Contoso Real Estate 的虛構公司，其體驗可讓客戶詢問其產品使用方式的相關支持問題。 範例數據報含一組文件，說明其服務條款、隱私策略和支援指南。

若要瞭解如何部署及執行此範本，請參閱 使用 LangChain.js 開始使用無伺服器 AI 聊天與 RAG。 若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 無伺服器聊天-langchainjs GitHub 存放庫。

瞭解如何 部署及執行 此 JavaScript 參考範本。

此圖顯示使用 LangChainjs 與 Azure OpenAI 服務和 Azure AI 搜尋整合的無伺服器 API 架構。

使用RAG和 Langchain.js示範 JavaScript 聊天應用程式的瀏覽器影片

此範本示範這些功能的使用。

Azure 主控解決方案 技術 AI 模型
Azure 靜態 Web 應用程式
Azure Functions		 Azure AI 搜尋服務
Azure OpenAI
Azure Cosmos DB
Azure 儲存體
Azure 受控識別		 GPT4
Mistral
Ollama