开发使用 Azure AI 服务的应用
本文提供了文档、示例和其他资源,介绍如何开发使用 Azure OpenAI 服务和其他 Azure AI 服务的应用程序。
Azure AI 参考模板
Azure AI 参考模板提供了维护良好、易于部署的参考实现。 这些资源可确保你的智能应用程序具有高质量的起点。 端到端解决方案提供了常用而全面的参考应用程序。 构建基块是较小的示例,侧重于特定方案和任务。
端到端解决方案
链接 | 说明 |
---|---|
使用 RAG 的 .NET 企业聊天示例使用入门 | 此文章指导你完成如何部署和使用适用于 .NET 的企业聊天应用示例。 此示例是一个完整的端到端解决方案,介绍了在 Azure 中运行的检索增强生成 (RAG) 模式,它使用 Azure AI 搜索进行检索,使用 Azure OpenAI 大型语言模型为 ChatGPT 风格的体验和问答体验提供支持。 |
使用 RAG 生成 AI 助手 | 此示例是一个完整的端到端解决方案,演示了如何设计和实现 Q&A AI 助手,该助手使用 Azure OpenAI 服务中的嵌入 API 和完成 API,以及 Azure Cosmos DB 中的矢量数据库。 |
构建基块
链接 | 说明 |
---|---|
使用 Azure OpenAI 生成聊天应用 (Python) | 一个简单的 Python Quart 应用,它使用 JSON Lines 通过 ReadableStream 将来自 ChatGPT 的响应流式传输到 HTML/JS 前端。 (提供的 Python 代码供参考,可以根据 .NET 的需要进行改写。) |
使用 Azure OpenAI 生成 LangChain (Python) | 此示例演示如何将人工提示作为 HTTP Get 或 Post 输入,使用人工输入和模板链计算完成情况。 可以以此示例为起点,用于更复杂的链。 (提供的 Python 代码供参考,可以根据 .NET 的需要进行改写。) |
使用 Azure 容器应用生成 ChatGPT 插件 (Python) | 此示例使用 GitHub Codespaces、VS Code 和 Azure 创建 ChatGPT 插件。 此示例包含用于使用 Azure Developer CLI 将插件部署到 Azure 容器应用的模板。 (提供的 Python 代码供参考,可以根据 .NET 的需要进行改写。) |
Azure AI .NET 模板库 | 有关 Azure AI 模板的完整列表,请访问我们的库。 我们的库中的所有应用模板都可以使用以下单个命令启动和部署:azd up。 |
使用 Azure 容器应用的智能负载均衡 | 此解决方案是使用 Microsoft 提供的高性能 YARP C# 反向代理框架 构建的。 但是,无需了解 C# 即可使用它,可以只生成提供的 Docker 映像。 这是 API 管理 OpenAI 智能负载均衡器的替代解决方案,具有相同的逻辑。 |
使用 Azure API 管理的智能负载均衡 | 企业解决方案演示了如何创建 Azure API 管理策略,以无缝地向应用程序公开单个终结点,同时保持高效的逻辑,以根据可用性和优先级使用两个或更多 OpenAI 或任何 API 后端。 |
Azure OpenAI
端到端解决方案
链接 | 说明 |
---|---|
使用 RAG 的 .NET 企业聊天示例使用入门 | 此文章指导你完成如何部署和使用适用于 .NET 的企业聊天应用示例。 此示例是一个完整的端到端解决方案,介绍了在 Azure 中运行的检索增强生成 (RAG) 模式,它使用 Azure AI 搜索进行检索,使用 Azure OpenAI 大型语言模型为 ChatGPT 风格的体验和问答体验提供支持。 |
构建基块
链接 | 说明 |
---|---|
使用 Azure Cache for Redis Enterprise 进行矢量相似性搜索 (Python) | 此文章指导你使用 Azure Cache for Redis 作为 RAG 方案的后端矢量存储。 (提供的 Python 代码供参考,可以根据 .NET 的需要进行改写。) |
借助 PostgreSQL 创建使用自己数据的 OpenAI 解决方案 (Python) | 此文章讨论了 Azure Database for PostgreSQL 灵活服务器和 Azure Cosmos DB for PostgreSQL 如何支持 pgvector 扩展以及概述、方案等。(提供的 Python 代码供参考,可以根据 .NET 的需要进行改写。) |
SDK 和其他示例/指南
链接 | 说明 |
---|---|
适用于 .NET 的 Azure OpenAI SDK | 适用于 .NET 的 Azure OpenAI 客户端库的 GitHub 源版本是对 OpenAI 的 REST API 的改写,其提供一个惯用接口,并提供与 Azure SDK 生态系统的其余部分的丰富集成。 它可以连接到 Azure OpenAI 资源或非 Azure OpenAI 推理终结点,使其即使对非 Azure OpenAI 开发而言也是最佳选择。 |
Azure OpenAI SDK 版本 | 所有 Azure OpenAI SDK 库包的链接,包括 .NET、Java、JavaScript 和 Go 的链接。 |
Azure.AI.OpenAI NuGet 包 | 适用于 .NET 的 Azure OpenAI 客户端库的 NuGet 版本。 |
开始使用 GPT-35-Turbo 和 GPT-4 | 此文章指导你创建聊天完成示例。 |
完成 | 10 个示例的集合,演示如何使用适用于 .NET 的 Azure OpenAI 客户端库聊天、流式传输回复、使用自己的数据、转录/翻译音频、生成图像等。 |
流式传输聊天完成 | 流式传输完成演示示例的深层链接。 |
使用 Microsoft Entra ID 基于角色的访问控制的 OpenAI | 阐述使用 Microsoft Entra ID 进行身份验证。 |
使用托管标识的 OpenAI | 此文章包含更复杂的安全方案,需要 Azure 基于角色的访问控制 (Azure RBAC)。 本文档介绍如何使用 Microsoft Entra ID 对 OpenAI 资源进行身份验证。 |
更多示例 | 在 .NET 中编写的 OpenAI 示例集合。 |
更多指导 | Azure OpenAI 服务文档的中心页面。 |
其他 Azure AI 服务
端到端解决方案
链接 | 说明 |
---|---|
字幕和呼叫中心脚本 | 此存储库包含呼叫中心方案中的字幕和脚本的示例。 |
通过将新患者注册与表单识别器研讨会结合使用,使用表单识别器自动执行纸质流程。 (代码) | 研讨会形式的 Azure AI 文档智能方案的完整演练。 |
构建基块
链接 | 说明 |
---|---|
使用语音与 OpenAI 对话 | 此文章详细介绍了如何使用 Azure AI 语音与 Azure OpenAI 服务进行对话。 语音服务识别的文本将发送到 Azure OpenAI。 语音服务再合成来自 Azure OpenAI 的文本回复。 |
对文档进行 100 多种不同语言双向翻译 | 此文章介绍如何将多种不同格式的本地文件或网络文件翻译为 100 多种不同的语言。 支持的格式包括 HTML、PDF、所有 Office 文档格式、Markdown、MHTML、Outlook、MSG、XLIFF、CSV、TSV 和纯文本。 |
SDK 和示例/指南
链接 | 说明 |
---|---|
使用语音 SDK 示例将语音集成到应用中 | Azure 认知服务语音 SDK 的示例存储库。 语音识别、翻译、语音合成等功能的示例的链接。 |
Azure AI 文档智能 SDK | Azure AI 文档智能(以前称为表单识别器)是一项云服务,它使用机器学习来分析文档的文本和结构化数据。 文档智能软件开发工具包 (SDK) 是一组库和工具,可用于轻松地将文档智能模型和功能集成到应用程序中。 |
在 .NET 中使用表单识别器从表单、收据、发票和卡中提取结构化数据 | Azure.AI.FormRecognizer 客户端库的示例存储库。 |
在 .NET 中使用文本分析提取、分类和理解文档中的文本 | 适用于文本分析的客户端库。 这是 Azure AI 语言服务的一部分,提供自然语言处理 (NLP) 功能,用于理解和分析文本。 |
.NET 文档翻译 | 一篇快速入门文章,详细介绍了如何使用文档翻译将源文档翻译为目标语言,同时保留结构和文本格式。 |
.NET 问题解答 | 一篇快速入门文章,用于从随问题一起发送的文本正文中获取答案(和置信度评分)。 |
.NET 对话语言理解 | 对话语言理解 (CLU) 的客户端库,是基于云的对话 AI 服务,它可以提取对话中的意图和实体,并充当业务流程协调程序,以选择最佳候选项来分析对话,进而从 Qna、Luis 和对话应用等应用获得最佳响应。 |
分析图像 | Microsoft Azure AI 图像分析 SDK 的示例代码和设置文档 |
Azure AI 参考模板
Azure AI 参考模板提供了维护良好、易于部署的参考实现。 这些资源可确保你的智能应用程序具有高质量的起点。 端到端解决方案提供了常用而全面的参考应用程序。 构建基块是较小的示例,侧重于特定方案和任务。
端到端解决方案
链接 | 说明 |
---|---|
通过 RAG 开始使用 Python 企业聊天示例 | 本文将指导你部署和使用适用于 Python 的 Enterprise 聊天应用示例。 此示例是一个完整的端到端解决方案,介绍了在 Azure 中运行的检索增强生成 (RAG) 模式,它使用 Azure AI 搜索进行检索,使用 Azure OpenAI 大型语言模型为 ChatGPT 风格的体验和问答体验提供支持。 |
构建基块
构建块 | 说明 |
---|---|
在 Python 中使用 Azure OpenAI 生成聊天应用 | 一个简单的 Python Quart 应用,它使用 JSON Lines 通过 ReadableStream 将来自 ChatGPT 的响应流式传输到 HTML/JS 前端。 |
在 Python 中使用 Azure OpenAI 生成 LangChain | 一个 Azure Functions 示例,演示如何将人工提示作为 HTTP Get 或 Post 输入,使用人工输入和模板链计算完成情况。 可以以此示例为起点,用于更复杂的链。 |
使用 Python 中的 Azure 容器应用生成 ChatGPT 插件 | 此示例使用 GitHub Codespaces、VS Code 和 Azure 创建 ChatGPT 插件。 此示例包含用于使用 Azure Developer CLI 将插件部署到 Azure 容器应用的模板。 |
在 Azure Functions 中使用 Azure AI 语言汇总文本 | 将文本文档作为输入,使用 Azure AI 语言进行汇总,然后使用 Azure Functions 输出到另一个文本文档。 |
Azure AI Python 模板库 | 有关 Azure AI 模板的完整列表,请访问我们的库。 我们的库中的所有应用模板都可以使用以下单个命令启动和部署:azd up。 |
使用 Azure 容器应用的智能负载均衡 | 此示例 解决方案 是使用 Microsoft 提供的高性能 YARP C# 反向代理框架 构建的。 但是,无需了解 C# 即可使用它,可以只生成提供的 Docker 映像。 这是 API 管理 OpenAI 智能负载均衡器的替代解决方案,具有相同的逻辑。 |
使用 Azure API 管理的智能负载均衡 | 企业示例解决方案演示如何创建 Azure API 管理 Policy,以无缝地向应用程序公开单个终结点,同时保持有效的逻辑,以使用两个或更多 OpenAI 或任何 API 后端,具体取决于可用性和优先级。 |
规避聊天应用 | 根据一组正确或理想的答案(称为基本真相)评估聊天应用的答案。 疏散工具可与符合聊天协议的任何聊天 API 一起使用。 |
使用 Locust 对聊天应用进行负载测试 | 使用 Locust 测试验证聊天应用可以处理预期的负载。 如果聊天应用由于 Azure OpenAI TPM 限制而无法缩放App 服务,请添加负载均衡器并再次测试负载。 智能负载均衡器包括 Azure API 管理 和 Azure 容器应用。 |
Azure OpenAI
端到端解决方案
链接 | 说明 |
---|---|
通过 RAG 开始使用 Python 企业聊天示例 | 本文将指导你部署和使用适用于 Python 的 Enterprise 聊天应用示例。 此示例是一个完整的端到端解决方案,介绍了在 Azure 中运行的检索增强生成 (RAG) 模式,它使用 Azure AI 搜索进行检索,使用 Azure OpenAI 大型语言模型为 ChatGPT 风格的体验和问答体验提供支持。 |
构建基块
链接 | 说明 |
---|---|
在 Python 中使用 Azure OpenAI 生成聊天应用 | 一个简单的 Python Quart 应用,它使用 JSON Lines 通过 ReadableStream 将来自 ChatGPT 的响应流式传输到 HTML/JS 前端。 |
在 Python 中使用 Azure OpenAI 生成 LangChain | 此示例演示如何将人工提示作为 HTTP Get 或 Post 输入,使用人工输入和模板链计算完成情况。 可以以此示例为起点,用于更复杂的链。 |
使用 Python 中的 Azure 容器应用生成 ChatGPT 插件 | 此示例使用 GitHub Codespaces、VS Code 和 Azure 创建 ChatGPT 插件。 此示例包含用于使用 Azure Developer CLI 将插件部署到 Azure 容器应用的模板。 |
使用 Azure Redis Enterprise 缓存进行矢量相似性搜索 | 使用 Azure Cache for Redis 作为 RAG 方案的后端向量存储的演练。 |
使用 PostgreSQL 使用自己的数据 OpenAI 解决方案 | 讨论 Azure Database for PostgreSQL 灵活服务器和 Azure Cosmos DB for PostgreSQL 如何支持 pgvector 扩展以及概述、方案等的文章。 |
SDK 和其他示例/指南
链接 | 说明 |
---|---|
OpenAI SDK for Python | OpenAI Python 库的 GitHub 源代码版本提供对 OpenAI API 的便捷访问,从用 Python 语言编写的应用程序访问 OpenAI API。 |
Azure OpenAI SDK 版本 | 所有 Azure OpenAI SDK 库包的链接,包括 .NET、Java、JavaScript 和 Go 的链接。 |
openai Python 包 | OpenAI Python 库的 PyPi 版本。 |
开始使用 GPT-35-Turbo 和 GPT-4 | 此文章指导你创建聊天完成示例。 |
流式聊天完成 | 一个笔记本,其中包含使用 Azure 终结点获取聊天完成工作的示例。 此示例重点介绍聊天完成,但也涉及使用 API 提供的其他一些操作。 |
从 OpenAI 切换到 Azure OpenAI | 有关需要对代码进行的小更改的指南文章,以便在 OpenAI 与 Azure OpenAI 服务之间来回交换。 |
嵌入 | 演示如何使用可以使用 Azure 终结点完成的嵌入操作的笔记本。 此示例重点介绍嵌入内容,但也涉及使用 API 提供的其他一些操作。 |
部署模型并生成文本 | 一篇文章,其中详细介绍了以编程方式聊天的步骤。 |
使用基于 Microsoft 条目 ID 角色的访问控制的 OpenAI | 阐述使用 Microsoft Entra ID 进行身份验证。 |
使用托管标识的 OpenAI | 具有更复杂的安全方案的文章需要 Azure 基于角色的访问控制(Azure RBAC)。 本文档介绍如何使用 Microsoft Entra ID 对 OpenAI 资源进行身份验证。 |
更多示例 | 编译有用的 Azure OpenAI 服务资源和代码示例,帮助你开始并加快技术采用过程。 |
更多指导 | Azure OpenAI 服务文档的中心页面。 |
其他 Azure AI 服务
端到端解决方案
链接 | 说明 |
---|---|
字幕和呼叫中心脚本 | 此存储库包含呼叫中心方案中的字幕和脚本的示例。 |
使用文档智能通过形式识别器研讨会使用新患者注册自动执行基于论文的过程(代码) | 一个研讨会样式演示,指导你了解如何使用文档智能转换和自动化基于纸张的过程。 |
构建基块
链接 | 说明 |
---|---|
使用语音与 OpenAI 对话 | 使用 Azure AI 语音与 Azure OpenAI 服务进行对话。 语音服务识别的文本将发送到 Azure OpenAI。 语音服务合成 Azure OpenAI 中的文本响应。 |
使用文档翻译示例应用将文档从 100 多种不同语言翻译 | 包含命令行工具和 Windows 应用程序的存储库,用作适用于 Windows、macOS 和 Linux 的 Azure 文档翻译服务的本地接口。 |
SDK 和示例/指南
链接 | 说明 |
---|---|
使用语音 SDK 示例将语音集成到应用中 | Azure 认知服务语音 SDK 的示例。 语音识别、翻译、语音合成等功能的示例的链接。 |
Azure AI 文档智能 SDK | Azure AI 文档智能(以前称为表单识别器)是一项云服务,它使用机器学习来分析文档的文本和结构化数据。 文档智能软件开发工具包 (SDK) 是一组库和工具,可用于轻松地将文档智能模型和功能集成到应用程序中。 |
使用 Python 中的形式识别器从表单、收据、发票和卡中提取结构化数据 | Azure.AI.FormRecognizer 客户端库的示例。 |
使用 Python 中的文本分析提取、分类和理解文档中的文本 | 适用于文本分析的客户端库。 这是 Azure AI 语言服务的一部分,提供自然语言处理 (NLP) 功能,用于理解和分析文本。 |
Python 中的文档翻译 | 一篇快速入门文章,该文章使用文档翻译将源文档翻译为目标语言,同时保留结构和文本格式。 |
Python 中的问答 | 一篇快速入门文章,其中包含从随问题一起发送的文本正文获取答案(和置信度分数)的步骤。 |
Python 中的对话语言理解 | 对话语言理解 (CLU) 的客户端库,是基于云的对话 AI 服务,它可以提取对话中的意图和实体,并充当业务流程协调程序,以选择最佳候选项来分析对话,进而从 Qna、Luis 和对话应用等应用获得最佳响应。 |
分析图像 | Microsoft Azure AI 图像分析 SDK 的示例代码和设置文档 |
适用于 Python 的 Azure AI 内容保险箱ty SDK | 检测应用程序和服务中有害的用户生成内容和 AI 生成的内容。 Content Safety 包括文本和图像 API,可用于检测有害材料。 |
Azure AI 参考模板
Azure AI 参考模板提供了维护良好、易于部署的参考实现。 这些资源可确保你的智能应用程序具有高质量的起点。 端到端解决方案提供了常用而全面的参考应用程序。 构建基块是较小的示例,侧重于特定方案和任务。
端到端解决方案
链接 | 说明 |
---|---|
通过 RAG 开始使用 JavaScript 企业聊天示例 | 本文将指导你部署和使用适用于 JavaScript 的 Enterprise 聊天应用示例。 此示例是一个完整的端到端解决方案,介绍了在 Azure 中运行的检索增强生成 (RAG) 模式,它使用 Azure AI 搜索进行检索,使用 Azure OpenAI 大型语言模型为 ChatGPT 风格的体验和问答体验提供支持。 |
构建基块
链接 | 说明 |
---|---|
使用 Azure OpenAI 生成聊天应用 (Python) | 一个简单的 Python Quart 应用,它使用 JSON Lines 通过 ReadableStream 将来自 ChatGPT 的响应流式传输到 HTML/JS 前端。 (Python 代码作为引用提供,可以改编为 JavaScript。 |
使用 Azure OpenAI 生成 LangChain (Python) | 此示例演示如何将人工提示作为 HTTP Get 或 Post 输入,使用人工输入和模板链计算完成情况。 可以以此示例为起点,用于更复杂的链。 (Python 代码作为引用提供,可以改编为 JavaScript。 |
使用 Azure 容器应用生成 ChatGPT 插件 (Python) | 此示例使用 GitHub Codespaces、VS Code 和 Azure 创建 ChatGPT 插件。 此示例包含用于使用 Azure Developer CLI 将插件部署到 Azure 容器应用的模板。 (Python 代码作为引用提供,可以改编为 JavaScript。 |
Azure AI JavaScript 模板库 | 有关 Azure AI 模板的完整列表,请访问我们的库。 我们的库中的所有应用模板都可以使用以下单个命令启动和部署:azd up。 |
使用 Azure 容器应用的智能负载均衡 | 此示例 解决方案 是使用 Microsoft 提供的高性能 YARP C# 反向代理框架 构建的。 但是,无需了解 C# 即可使用它,可以只生成提供的 Docker 映像。 这是 API 管理 OpenAI 智能负载均衡器的替代解决方案,具有相同的逻辑。 |
使用 Azure API 管理的智能负载均衡 | 企业解决方案演示了如何创建 Azure API 管理策略,以无缝地向应用程序公开单个终结点,同时保持高效的逻辑,以根据可用性和优先级使用两个或更多 OpenAI 或任何 API 后端。 |
规避聊天应用 | 根据一组正确或理想的答案(称为基本真相)评估聊天应用的答案。 疏散工具可与符合聊天协议的任何聊天 API 一起使用。 |
Azure OpenAI
端到端解决方案
链接 | 说明 |
---|---|
通过 RAG 开始使用 JavaScript 企业聊天示例 | 本文将指导你部署和使用适用于 JavaScript 的 Enterprise 聊天应用示例。 此示例是一个完整的端到端解决方案,介绍了在 Azure 中运行的检索增强生成 (RAG) 模式,它使用 Azure AI 搜索进行检索,使用 Azure OpenAI 大型语言模型为 ChatGPT 风格的体验和问答体验提供支持。 |
构建基块
链接 | 说明 |
---|---|
使用 Azure Cache for Redis Enterprise 进行矢量相似性搜索 (Python) | 将 Azure Cache for Redis 用作 RAG 方案的后端向量存储的演练。 (Python 代码作为引用提供,可以改编为 JavaScript。 |
借助 PostgreSQL 创建使用自己数据的 OpenAI 解决方案 (Python) | 一篇讨论 Azure Database for PostgreSQL 灵活服务器和 Azure Cosmos DB for PostgreSQL 如何支持 pgvector 扩展以及概述、方案等的文章(Python 代码作为参考提供,可以改编为 JavaScript)。 |
SDK
包 | 源代码 | 发行版本 | npm |
---|---|---|---|
@azure/openai | 源代码 | 发行版本 | 包 |
示例和指导
链接 | 说明 |
---|---|
开始使用 GPT-35-Turbo 和 GPT-4 | 此文章指导你创建聊天完成示例。 |
完成 | 演示如何获取提供的提示的完成情况的简单示例。 |
流式传输聊天完成 | 演示如何使用流式聊天完成的简单示例。 |
从 OpenAI 切换到 Azure OpenAI | 本文介绍了需要对代码进行的小更改,以便在 OpenAI 和 Azure OpenAI 服务之间来回交换。 |
使用 Microsoft Entra ID 基于角色的访问控制的 OpenAI | 阐述使用 Microsoft Entra ID 进行身份验证。 |
使用托管标识的 OpenAI | 详细介绍更复杂的安全方案的文章需要 Azure 基于角色的访问控制(Azure RBAC)。 本文档介绍如何使用 Microsoft Entra ID 对 OpenAI 资源进行身份验证。 |
更多示例 | 涵盖各种方案的 OpenAI 示例。 |
更多指导 | Azure OpenAI 服务文档的中心页面。 |
开源集成
SDK
包 | 源代码 | 发行版本 | npm |
---|---|---|---|
@langchain/azure-openai | 源代码 | 发行版本 | 包 |
其他 Azure AI 服务
端到端解决方案
链接 | 说明 |
---|---|
字幕和呼叫中心脚本 | 此存储库包含呼叫中心方案中的字幕和脚本的示例。 |
构建基块
链接 | 说明 |
---|---|
使用语音与 OpenAI 对话(C# 和 Python) | 使用 Azure AI 语音与 Azure OpenAI 服务对话的文章。 语音服务识别的文本将发送到 Azure OpenAI。 语音服务合成 Azure OpenAI 中的文本响应。 (C# 和 Python 代码作为参考提供,可以适应 JavaScript。 |
SDK
链接 | 说明 |
---|---|
Azure AI 文档智能 SDK | Azure AI 文档智能(以前称为表单识别器)是一项云服务,它使用机器学习来分析文档的文本和结构化数据。 文档智能软件开发工具包 (SDK) 是一组库和工具,可用于轻松地将文档智能模型和功能集成到应用程序中。 |
示例和指导
链接 | 说明 |
---|---|
使用语音 SDK 示例将语音集成到应用中 | Azure 认知服务语音 SDK 的示例集合。 语音识别、翻译、语音合成等功能的示例的链接。 |
使用 JavaScript 中的形式识别器从表单、收据、发票和卡中提取结构化数据 | Azure.AI.FormRecognizer 客户端库的示例集合。 |
使用 JavaScript 中的文本分析提取、分类和理解文档中的文本 | 适用于文本分析的客户端库。 这是 Azure AI 语言服务的一部分,提供自然语言处理 (NLP) 功能,用于理解和分析文本。 |
JavaScript 中的文档翻译 | 一篇快速入门文章,该文章使用文档翻译将源文档翻译为目标语言,同时保留结构和文本格式。 |
分析图像 | Microsoft Azure AI 图像分析 SDK 的示例代码和设置文档。 |
Azure AI 参考模板
Azure AI 参考模板提供了维护良好、易于部署的参考实现。 这些资源可确保你的智能应用程序具有高质量的起点。 端到端解决方案提供了常用而全面的参考应用程序。 构建基块是较小的示例,侧重于特定方案和任务。
端到端解决方案
链接 | 说明 |
---|---|
通过 RAG 开始使用 Java 企业聊天示例 | 本文将指导你部署和使用适用于 Java 的 Enterprise 聊天应用示例。 此示例是一个完整的端到端解决方案,介绍了在 Azure 中运行的检索增强生成 (RAG) 模式,它使用 Azure AI 搜索进行检索,使用 Azure OpenAI 大型语言模型为 ChatGPT 风格的体验和问答体验提供支持。 |
构建基块
链接 | 说明 |
---|---|
使用 Azure OpenAI 生成聊天应用 (Python) | 一个简单的 Python Quart 应用,它使用 JSON Lines 通过 ReadableStream 将来自 ChatGPT 的响应流式传输到 HTML/JS 前端。 (Python 代码作为参考提供,可以改编为 Java。 |
使用 Azure OpenAI 生成 LangChain (Python) | 此示例演示如何将人工提示作为 HTTP Get 或 Post 输入,使用人工输入和模板链计算完成情况。 可以以此示例为起点,用于更复杂的链。 (Python 代码作为参考提供,可以改编为 Java。 |
使用 Azure 容器应用生成 ChatGPT 插件 (Python) | 此示例使用 GitHub Codespaces、VS Code 和 Azure 创建 ChatGPT 插件。 此示例包含用于使用 Azure Developer CLI 将插件部署到 Azure 容器应用的模板。 (Python 代码作为参考提供,可以改编为 Java。 |
Azure AI Java 模板库 | 有关 Azure AI 模板的完整列表,请访问我们的库。 我们的库中的所有应用模板都可以使用以下单个命令启动和部署:azd up。 |
使用 Azure 容器应用的智能负载均衡 | 此示例 解决方案 是使用 Microsoft 提供的高性能 YARP C# 反向代理框架 构建的。 但是,无需了解 C# 即可使用它,可以只生成提供的 Docker 映像。 这是 API 管理 OpenAI 智能负载均衡器的替代解决方案,具有相同的逻辑。 |
使用 Azure API 管理的智能负载均衡 | 企业解决方案演示了如何创建 Azure API 管理策略,以无缝地向应用程序公开单个终结点,同时保持高效的逻辑,以根据可用性和优先级使用两个或更多 OpenAI 或任何 API 后端。 |
Azure OpenAI
端到端解决方案
链接 | 说明 |
---|---|
通过 RAG 开始使用 Java 企业聊天示例 | 本文将指导你部署和使用适用于 Java 的 Enterprise 聊天应用示例。 此示例是一个完整的端到端解决方案,介绍了在 Azure 中运行的检索增强生成 (RAG) 模式,它使用 Azure AI 搜索进行检索,使用 Azure OpenAI 大型语言模型为 ChatGPT 风格的体验和问答体验提供支持。 |
构建基块
链接 | 说明 |
---|---|
使用 Azure Cache for Redis Enterprise 进行矢量相似性搜索 (Python) | 此文章指导你使用 Azure Cache for Redis 作为 RAG 方案的后端矢量存储。 (Python 代码作为参考提供,可以改编为 Java。 |
借助 PostgreSQL 创建使用自己数据的 OpenAI 解决方案 (Python) | 讨论 Azure Database for PostgreSQL 灵活服务器和 Azure Cosmos DB for PostgreSQL 如何支持 pgvector 扩展以及概述、方案等的文章(Python 代码作为参考提供,可以改编为 Java)。 |
SDK
包 | 源代码 | 发行版本 | Maven |
---|---|---|---|
azure-ai-openai | 源代码 | 发行版本 | Maven 包 |
azure-ai-openai-助手s | 源代码 | 发行版本 | Maven 包 |
示例和指导
链接 | 说明 |
---|---|
开始使用 GPT-35-Turbo 和 GPT-4 | 此文章指导你创建聊天完成示例。 |
完成 | 演示如何获取提供的提示的完成情况的简单示例。 |
流式传输聊天完成 | 演示如何使用流式聊天完成的简单示例。 |
从 OpenAI 切换到 Azure OpenAI | 一篇文章,其中介绍了需要对代码进行的小更改,以便在 OpenAI 与 Azure OpenAI 服务之间来回交换。 |
使用 Microsoft Entra ID 基于角色的访问控制的 OpenAI | 使用 Microsoft Entra ID 查看身份验证的文章。 |
使用托管标识的 OpenAI | 一篇文章详细介绍了需要 Azure 基于角色的访问控制(Azure RBAC)更复杂的安全方案。 本文档介绍如何使用 Microsoft Entra ID 对 OpenAI 资源进行身份验证。 |
更多示例 | Azure OpenAI 服务示例是一组独立的 Java 程序,演示如何使用客户端库与 Azure OpenAI 服务交互。 每个示例都侧重于特定方案,可以独立执行。 |
更多指导 | Azure OpenAI 服务文档的中心页面。 |
开放源代码集成
SDK
包 | 源代码 | 发行版本 | Maven |
---|---|---|---|
langchain4j-azure-open-ai | 源代码 | 发行版本 | Maven 包 |
langchain4j-azure-ai-search | 源代码 | 发行版本 | Maven |
langchain4j-document-loader-azure-storage-blob | 不适用 | 发行版本 | Maven |
其他 Azure AI 服务
端到端解决方案
链接 | 说明 |
---|---|
字幕和呼叫中心脚本 | 此存储库包含呼叫中心方案中的字幕和脚本的示例。 |
SDK
链接 | 说明 |
---|---|
Azure AI 文档智能 SDK | Azure AI 文档智能(以前称为表单识别器)是一项云服务,它使用机器学习来分析文档的文本和结构化数据。 文档智能软件开发工具包 (SDK) 是一组库和工具,可用于轻松地将文档智能模型和功能集成到应用程序中。 |
示例和指导
链接 | 说明 |
---|---|
使用语音 SDK 示例将语音集成到应用中 | Azure 认知服务语音 SDK 的示例集合。 语音识别、翻译、语音合成等功能的示例的链接。 |
使用 Java 中的形式识别器从表单、收据、发票和卡中提取结构化数据 | Azure.AI.FormRecognizer 客户端库的示例集合。 |
使用 Java 中的文本分析提取、分类和理解文档中的文本 | 适用于文本分析的客户端库。 这是 Azure AI 语言服务的一部分,提供自然语言处理 (NLP) 功能,用于理解和分析文本。 |
Java 中的文档翻译 | 一篇快速入门文章,介绍如何使用文档翻译将源文档翻译为目标语言,同时保留结构和文本格式。 |
分析图像 | Microsoft Azure AI 图像分析 SDK 的示例代码和设置文档 |
面向 Go 开发人员的 OpenAI
链接 | 说明 |
---|---|
适用于 Go 的 Azure OpenAI SDK | 适用于 Go 的 Azure OpenAI SDK 的 GitHub 源版本。 |
Azure OpenAI SDK 版本 | 所有 Azure OpenAI SDK 库包的链接,包括 .NET、Java、JavaScript 和 Go 的链接。 |
包 (pkg.go.dev) | 适用于 Go 的 Azure OpenAI 客户端模块的 Go 包版本。 |
开始使用 GPT-35-Turbo 和 GPT-4 | 此文章指导你创建聊天完成示例。 |
ChatCompletions | 演示如何实现完成的简单示例。 |
使用函数的 ChatCompletions | 演示如何使用 Functions 实现完成的简单示例。 |
流式传输聊天完成 | 演示如何实现流式处理完成的简单示例。 |
图像生成 | 实现映像生成的简单示例。 |
嵌入 | 演示如何创建嵌入的简单示例。 |
其他示例 | 适用于 Go 的 OpenAI 客户端模块文档的 Go 包版本。 |
更多指导 | Azure OpenAI 服务文档的中心页面。 |
保护 Azure AI 资源
链接 | 说明 |
---|---|
使用 Microsoft Entra ID 基于角色的访问控制的 OpenAI | 阐述使用 Microsoft Entra ID 进行身份验证。 |
使用托管标识的 OpenAI | 一篇文章详细介绍了需要 Azure 基于角色的访问控制(Azure RBAC)更复杂的安全方案。 本文档介绍如何使用 Microsoft Entra ID 对 OpenAI 资源进行身份验证。 |
语音/视觉
链接 | 说明 |
---|---|
Go 中的字幕和呼叫中心听录 | 此存储库包含呼叫中心方案中的字幕和脚本的示例。 |
使用语音 SDK for Go 将语音集成到应用中 | Azure 认知服务语音 SDK 的源。 |
语言
链接 | 说明 |
---|---|
使用 Go 中的文本分析提取、分类和理解文档中的文本 | 用于文本分析的客户端库,它是 Azure 认知语言服务(一种基于云的服务),它提供自然语言处理(NLP)功能,用于理解和分析文本。 |
Go 中的文档翻译 | 一篇快速入门文章,介绍如何使用文档翻译将源文档翻译为目标语言,同时保留结构和文本格式。 |
反馈
https://aka.ms/ContentUserFeedback。
即将发布:在整个 2024 年,我们将逐步淘汰作为内容反馈机制的“GitHub 问题”,并将其取代为新的反馈系统。 有关详细信息,请参阅:提交和查看相关反馈