AI 應用程式範本
本檔章節將 為您介紹 AI 應用程式範本 和相關文章，這些文章會使用這些範本來示範如何執行重要的開發人員工作。 AI 應用程式範本提供您妥善維護且易於部署的參考實作，以協助確保 AI 應用程式的高品質起點。
AI 應用程式範本有兩種類別：組建區塊和端對端解決方案。 下列各節介紹本文頂端所選取程式設計語言之每個類別中的一些主要範本。 若要流覽更完整的清單，包括這些和其他範本，請參閱 Azure 開發人員 CLI 資源庫上的 AI 應用程式範本。
構成要素
組建區塊是小規模的範例，其著重於特定案例和工作。 大部分建置組塊都示範針對使用您自己的數據的聊天應用程式運用 端對端解決方案 的功能。
| 建置組塊 | 描述 |
|---|---|
| 使用 Azure Container Apps 進行負載平衡 | 了解如何將負載平衡新增至您的應用程式，以將聊天應用程式延伸至 Azure OpenAI 權杖及模型配額限制之外。 此方法會使用 Azure 容器應用程式來建立三個 Azure OpenAI 端點，以及一個主要容器將連入流量導向三個端點之一。 |
| 建置組塊 | 描述 |
|---|---|
| 設定聊天應用程式的檔案安全性 | 當您使用RAG模式搭配您自己的資料建置聊天應用程式時，請確定每個用戶會根據其許可權接收答案。 授權的使用者應該能夠存取聊天應用程式檔內所含的解答。 未經授權的使用者不應該從他們沒有授權查看的安全檔存取答案。 |
| 評估聊天應用程式答案 | 瞭解如何針對一組正確或理想的答案來評估聊天應用程式的答案（稱為地面真相）。 每當您以影響答案的方式變更聊天應用程式時，請執行評估來比較變更。 此示範應用程式提供您目前可以使用的工具，讓您更輕鬆地執行評估。 |
| 使用 Azure Container Apps 進行負載平衡 | 了解如何將負載平衡新增至您的應用程式，以將聊天應用程式延伸至 Azure OpenAI 權杖及模型配額限制之外。 此方法會使用 Azure 容器應用程式來建立三個 Azure OpenAI 端點，以及一個主要容器將連入流量導向三個端點之一。 |
| 使用 API 管理 進行負載平衡 | 了解如何將負載平衡新增至您的應用程式，以將聊天應用程式延伸至 Azure OpenAI 權杖及模型配額限制之外。 此方法會使用 Azure API 管理 來建立三個 Azure OpenAI 端點，以及將連入流量導向三個端點之一的主要容器。 |
| 使用 Locust 測試 Python 聊天應用程式負載 | 瞭解使用RAG模式搭配Locust在 Python 聊天應用程式上執行負載測試的程式，這是熱門的開放原始碼負載測試工具。 負載測試的主要目標是確保聊天應用程式上預期的負載不會超過目前的 Azure OpenAI 交易每分鐘 （TPM） 配額。 藉由模擬負載過重的用戶行為，您可以找出應用程式的潛在瓶頸和延展性問題。 |
| 建置組塊 | 描述 |
|---|---|
| 使用 Azure Container Apps 進行負載平衡 | 了解如何將負載平衡新增至您的應用程式，以將聊天應用程式延伸至 Azure OpenAI 權杖及模型配額限制之外。 此方法會使用 Azure 容器應用程式來建立三個 Azure OpenAI 端點，以及一個主要容器將連入流量導向三個端點之一。 |
| 建置組塊 | 描述 |
|---|---|
| 評估聊天應用程式答案 | 瞭解如何針對一組正確或理想的答案來評估聊天應用程式的答案（稱為地面真相）。 每當您以影響答案的方式變更聊天應用程式時，請執行評估來比較變更。 此示範應用程式提供您目前可以使用的工具，讓您更輕鬆地執行評估。 |
| 使用 Azure Container Apps 進行負載平衡 | 了解如何將負載平衡新增至您的應用程式，以將聊天應用程式延伸至 Azure OpenAI 權杖及模型配額限制之外。 此方法會使用 Azure 容器應用程式來建立三個 Azure OpenAI 端點，以及一個主要容器將連入流量導向三個端點之一。 |
| 使用 API 管理 進行負載平衡 | 了解如何將負載平衡新增至您的應用程式，以將聊天應用程式延伸至 Azure OpenAI 權杖及模型配額限制之外。 此方法會使用 Azure API 管理 來建立三個 Azure OpenAI 端點，以及將連入流量導向三個端點之一的主要容器。 |
端對端解決方案
端到端解決方案是全面的參考樣本 (包括文件、原始程式碼和部署)，可讓您拿來使用並根據自己的需求目的進行擴充。
使用 Azure OpenAI 和 Azure AI 搜尋搭配 .NET 與您的數據聊天
此範本是完整的端對端解決方案，示範在 Azure 中執行的擷取擴增世代 （RAG） 模式。 它會使用 Azure AI 搜尋來擷取和 Azure OpenAI 大型語言模型，來提供 ChatGPT 樣式和問答體驗。
若要開始使用此範本，請參閱 使用您自己的 .NET 數據範例開始使用聊天。 若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 azure-search-openai-demo-csharp GitHub 存放庫。
此範本示範這些功能的使用。
| Azure 主控解決方案 | 技術 | AI 模型 |
|---|---|---|
| Azure 容器應用程式 Azure Functions |
Azure OpenAI Azure 電腦視覺 Azure 表格辨識器 Azure AI 搜尋服務 Azure 儲存體 |
GPT 3.5 Turbo GPT 4.0 |
Contoso 聊天零售 Copilot 與 .NET 和 Semantic Kernel
此範本會實作 Contoso Outdoors，這是一家概念性商店，專門提供徒步旅行和露營愛好者的戶外裝備。 此虛擬市集透過智慧型手機聊天代理程式增強客戶參與和銷售支援。 此代理程式是由 Microsoft Azure AI Stack 內的擷取擴增世代 （RAG） 模式提供技術支援，並以語意核心和提示支持進行擴充。
若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 contoso-chat-csharp-prompty GitHub 存放庫。
此範本示範這些功能的使用。
| Azure 主控解決方案 | 技術 | AI 模型 |
|---|---|---|
| Azure 容器應用程式 |
Azure OpenAI Microsoft Entra ID Azure 受控識別 Azure 監視器 Azure AI 搜尋服務 Azure AI Studio Azure SQL Azure 儲存體 |
GPT 3.5 Turbo GPT 4.0 |
使用語音轉換文字處理自動化，並使用 .NET 和 GPT 3.5 Turbo 進行摘要
此範本是一種程式自動化解決方案，可接收公司 Contoso Manufacturing 公司現場和店面工人回報的問題，該公司是製造汽車電池的製造公司。 背景工作角色會透過麥克風輸入或預先錄製為音訊檔案來共享問題。 解決方案會將音訊輸入從語音轉譯為文字，然後使用 LLM 和 Prompty 或 Promptflow 來摘要問題，並以解決方案指定的格式傳回結果。
若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 摘要-openai-csharp-prompty GitHub 存放庫。
此範本示範這些功能的使用。
| Azure 主控解決方案 | 技術 | AI 模型 |
|---|---|---|
| Azure 容器應用程式 | 語音轉換文字 摘要 Azure OpenAI |
GPT 3.5 Turbo |
使用 Azure OpenAI 和 Azure AI 搜尋搭配 Python 與您的數據聊天
此範本是完整的端對端解決方案，示範在 Azure 中執行的擷取擴增世代 （RAG） 模式。 它會使用 Azure AI 搜尋來擷取和 Azure OpenAI 大型語言模型，來提供 ChatGPT 樣式和問答體驗。
若要開始使用此範本，請參閱 使用您自己的 Python 數據範例開始使用聊天。 若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 azure-search-openai-demo GitHub 存放庫。
此範本示範這些功能的使用。
| Azure 主控解決方案 | 技術 | AI 模型 |
|---|---|---|
| Azure App Service | Azure OpenAI Bing 搜尋 Azure 受控識別 Azure 監視器 Azure AI 搜尋服務 Azure AI Studio |
GPT 3.5 Turbo GPT 4.0 DALL-E |
多模式創意寫作科皮洛特與 DALL-E
此範本是創造性的撰寫多代理程式解決方案，可協助使用者撰寫文章。 它示範如何建立及使用 Azure OpenAI 驅動的 AI 代理程式。 它包含 Flask 應用程式，該應用程式會從使用者取得主題和指示，然後呼叫使用 Bing 搜尋 API 來研究主題的研究代理程式、使用 Azure AI 搜尋 執行語意相似性搜尋向量存放區中相關產品的產品、將研究與產品資訊結合成實用文章的寫入器代理程式。 和編輯器代理程式，以精簡最後向用戶呈現的文章。
若要存取原始程式碼並閱讀範本的相關深入詳細數據，請參閱 agent-openai-python-prompty GitHub 存放庫。
此範本示範這些功能的使用。
| Azure 主控解決方案 | 技術 | AI 模型 |
|---|---|---|
| Azure 容器註冊 Azure Kubernetes |
Azure OpenAI Bing 搜尋 Azure 受控識別 Azure 監視器 Azure AI 搜尋服務 Azure AI Studio |
GPT 3.5 Turbo GPT 4.0 DALL-E |
Contoso Chat Retail Copilot with AI Studio
此範本是客戶銷售和支援聊天解決方案。 其示範如何使用 Azure AI Studio 和提示流程，建置具有 RAG（擷取增強世代）架構的大型語言模型 （LLM） 應用程式。
若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 contoso-chat GitHub 存放庫。
此範本示範這些功能的使用。
| Azure 主控解決方案 | 技術 | AI 模型 |
|---|---|---|
| Azure 容器應用程式 |
Azure OpenAI Azure AI 搜尋服務 Azure AI Studio Azure Cosmos DB |
GPT 3.5 Turbo GPT 4.0 受控整合運行時間 （MIR） |
使用語音轉換文字處理自動化，並使用 AI Studio 進行摘要
此範本是一種程式自動化解決方案，可接收公司 Contoso Manufacturing 公司現場和店面工人回報的問題，該公司是製造汽車電池的製造公司。 背景工作角色會透過麥克風輸入、預先錄製為音訊檔案或文字輸入來共享問題。 解決方案會將音訊輸入從語音轉譯為文字，然後使用文字報告做為 LLM 和 Prompty/Promptflow 的輸入來摘要問題，並以解決方案所指定的格式傳回結果。
若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 摘要-openai-python-prompflow GitHub 存放庫。
此範本示範這些功能的使用。
| Azure 主控解決方案 | 技術 | AI 模型 |
|---|---|---|
| Azure 容器應用程式 | Azure AI Studio 語音轉換文字服務 提示流程 受控整合運行時間 （MIR） |
GPT 3.5 Turbo |
使用 Prompty、LangChain 和彈性搜尋呼叫函式
此範本是使用 Prompty、Langchain 和 Elasticsearch 建置大型語言模型 （LLM） 搜尋代理程式的應用程式。 此代理程式具有擷取擴增世代（RAG）技術，能夠藉由整合實時資訊擷取與產生回應，根據所提供的數據來回答用戶問題。
若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 agent-python-openai-prompty-langchain GitHub 存放庫。
此範本示範這些功能的使用。
| Azure 主控解決方案 | 技術 | AI 模型 |
|---|---|---|
| Machine Learning 服務 | Azure AI Studio 彈性搜尋 Microsoft Entra ID Azure 受控識別 Azure 監視器 Azure 儲存體 Azure AI Studio 受控整合運行時間 （MIR） |
GPT 3.5 Turbo |
使用 Prompty、LangChain 和 Pinecone 呼叫函式
此範本會利用新的 Prompty 工具 Langchain 和 Pinecone 來建置大型語言模型 （LLM） 搜尋代理程式。 此代理程式具有擷取擴增世代（RAG）技術，能夠藉由整合實時資訊擷取與產生回應，根據所提供的數據來回答用戶問題。
若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 agent-openai-python-prompty-langchain-pinecone GitHub 存放庫。
此範本示範這些功能的使用。
| Azure 主控解決方案 | 技術 | AI 模型 |
|---|---|---|
| Azure 容器應用程式 | Pinecone Microsoft Entra ID Microsoft受控識別 Azure 監視器 Azure 儲存體 |
GPT 3.5 Turbo |
使用 Python 和 Azure AI Studio 的助理 API 分析 Copilot
此範本是小幫手 API，可與表格式數據聊天，並以自然語言執行分析。 若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 assistant-data-openai-python-promptflow GitHub 存放庫。
此範本示範這些功能的使用。
| Azure 主控解決方案 | 技術 | AI 模型 |
|---|---|---|
| Machine Learning 服務 | Azure AI 搜尋服務 Azure AI Studio 受控整合運行時間 （MIR） Azure OpenAI |
GPT 3.5 Turbo GPT 4 |
使用 Azure OpenAI 和 Azure AI 搜尋搭配 Java 與您的數據聊天
此範本是完整的端對端解決方案，示範在 Azure 中執行的擷取增強式產生 （RAG） 模式。 它會使用 Azure AI 搜尋來擷取和 Azure OpenAI 大型語言模型，來提供 ChatGPT 樣式和問答體驗。
若要開始使用此範本，請參閱 使用您自己的 Java 資料範例開始使用聊天。 若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 azure-search-openai-demo-java GitHub 存放庫。
此範本示範這些功能的使用。
| Azure 主控解決方案 | 技術 | AI 模型 |
|---|---|---|
| Azure App Service Azure 容器應用程式 Azure Kubernetes Service |
Azure OpenAI Azure AI 搜尋服務 Azure 儲存體 Azure 監視器 |
使用 Azure OpenAI 和 Azure AI Search 與 JavaScript 與您的數據聊天
此範本是完整的端對端解決方案，示範在 Azure 中執行的擷取擴增世代 （RAG） 模式。 它會使用 Azure AI 搜尋來擷取和 Azure OpenAI 大型語言模型，來提供 ChatGPT 樣式和問答體驗。
若要開始使用此範本，請參閱 使用您自己的 JavaScript 資料範例開始使用聊天。 若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 azure-search-openai-javascript GitHub 存放庫。
此範本示範這些功能的使用。
| Azure 主控解決方案 | 技術 | AI 模型 |
|---|---|---|
| Azure 容器應用程式 Azure 靜態 Web 應用程式 |
Azure OpenAI Azure AI 搜尋服務 Azure 儲存體 Azure 監視器 |
text-embedding-ada-002 |
Azure OpenAI 聊天前端
此範本是可連結至任何後端實作做為用戶端的最低 OpenAI 聊天 Web 元件。
若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 azure-openai-chat-frontend GitHub 存放庫。
此範本示範這些功能的使用。
| Azure 主控解決方案 | 技術 | AI 模型 |
|---|---|---|
| Azure 靜態 Web 應用程式 | Azure AI 搜尋服務 Azure OpenAI |
GPT 3.5 Turbo GPT4 |
使用 LangChain.js 與RAG進行無伺服器 AI 聊天
此範本是無伺服器 AI 聊天機器人，使用 LangChain.js 和 Azure 來擷取擴增世代，使用一組企業檔來產生使用者查詢的回應。 它使用名為 Contoso Real Estate 的虛構公司，其體驗可讓客戶詢問其產品使用方式的相關支持問題。 範例數據報含一組文件，說明其服務條款、隱私策略和支援指南。
若要瞭解如何部署及執行此範本，請參閱 使用 LangChain.js 開始使用無伺服器 AI 聊天與 RAG。 若要存取原始程式碼並閱讀範本的深入詳細數據，請參閱 無伺服器聊天-langchainjs GitHub 存放庫。
此範本示範這些功能的使用。
| Azure 主控解決方案 | 技術 | AI 模型 |
|---|---|---|
| Azure 靜態 Web 應用程式 Azure Functions |
Azure AI 搜尋服務 Azure OpenAI Azure Cosmos DB Azure 儲存體 Azure 受控識別 |
GPT4 Mistral Ollama |
意見反應
即將登場：在 2024 年，我們將逐步淘汰 GitHub 問題作為內容的意見反應機制，並將它取代為新的意見反應系統。 如需詳細資訊，請參閱：https://aka.ms/ContentUserFeedback。
提交並檢視相關的意見反應