通过

使用你自己的 Python 数据示例开始聊天

  • 项目

本文介绍如何使用自己的 Python 数据示例部署和运行聊天。 此示例使用 Python、Azure OpenAI 服务和 Azure AI 搜索中的检索增强生成 (RAG) 实现聊天应用，以获取有关虚构公司员工福利的答案。 该应用包含 PDF 文件，包括员工手册、福利文件以及公司角色和期望列表。

按照本文中的说明操作，你将：

  • 将聊天应用部署到 Azure。
  • 获取有关员工权益的解答。
  • 更改设置以更改答复的行为。

完成此过程后，可以使用自定义代码开始修改新项目。

本文是向你介绍如何使用 Azure OpenAI 服务和 Azure AI 搜索生成聊天应用的一系列文章的一部分。

该系列中的其他文章包括：

注意

本文使用一个或多个 AI 应用模板作为本文中的示例和指南的基础。 AI 应用模板为你提供了维护良好、易于部署的参考实现，可帮助确保 AI 应用有一个高质量的起点。

体系结构概述

下图显示了聊天应用的简单体系结构：

显示从客户端到后端应用的体系结构的关系图。

体系结构的关键组件包括：

  • 用于托管交互式聊天体验的 Web 应用程序。
  • Azure AI 搜索资源，用于从你自己的数据中获取答案。
  • 要提供的 Azure OpenAI 服务：
    • 用于增强自有数据搜索性能的关键字。
    • 来自 OpenAI 模型的解答。
    • 来自 ada 模型的嵌入

成本

此体系结构中的大多数资源使用基本定价层或消耗定价层。 消耗定价基于使用量，这意味着你只需为使用的部分付费。 完成本文将收取一定费用，但费用极少。 阅读文章后，你可以删除资源以停止产生费用。

在示例存储库中了解有关成本的详细信息。

先决条件

开发容器 环境提供了完成本文所需的所有依赖项。 可以在 GitHub Codespaces（在浏览器中）或在本地使用 Visual Studio Code 运行开发容器。

若要使用本文章，你需要符合以下先决条件：

  • Azure 订阅 - 免费创建订阅
  • Azure 帐户权限 - Azure 帐户必须具有 Microsoft.Authorization/roleAssignments/write 权限，例如用户访问管理员或所有者。
  • 已在所需的 Azure 订阅中授予对 Azure OpenAI 的访问权限。 目前，仅应用程序授予对此服务的访问权限。 可以通过在 https://aka.ms/oai/access 上填写表单来申请对 Azure OpenAI 的访问权限。 如果有任何问题，请在此存储库上提出问题以联系我们。
  • GitHub 帐户

打开开发环境

现在从安装了完成本文所需的所有依赖项的开发环境开始。

GitHub Codespaces 运行由 GitHub 托管的开发容器，将 Visual Studio Code 网页版作为用户界面。 对于最简单的开发环境，请使用 GitHub Codespaces，以便预先安装完成本文所需的合适的开发人员工具和依赖项。

重要

所有 GitHub 帐户每月可以使用 Codespaces 最多 60 小时，其中包含 2 个核心实例。 有关详细信息，请参阅 GitHub Codespaces 每月包含的存储和核心小时数。

  1. 开始在 Azure-Samples/azure-search-openai-demo GitHub 存储库的 main 分支上创建新的 GitHub Codespace。

  2. 右键单击以下按钮，然后选择“在新窗口中打开链接”，以便同时提供开发环境和文档。

    在 GitHub Codespaces 中打开

  3. 在“创建 codespace”页上，查看 codespace 配置设置，然后选择“新建 codespace”

    新建 codespace 之前的确认屏幕的截图。

  4. 等待 Codespace 启动。 此启动过程会花费几分钟时间。

  5. 在终端的屏幕底部，使用 Azure Developer CLI 登录到 Azure。

    azd auth login

  6. 从终端复制代码，然后将其粘贴到浏览器中。 按照说明使用 Azure 帐户进行身份验证。

  7. 本文中的剩余任务需要在此开发容器的上下文中完成。

部署和运行

示例存储库包含将聊天应用部署到 Azure 所需的所有代码和配置文件。 以下步骤将指导完成将示例部署到 Azure 的过程。

将聊天应用部署到 Azure

重要

在本部分中创建的 Azure 资源会产生即时成本，主要由 Azure AI 搜索资源产生。 即使在完全执行命令之前中断命令，这些资源也会产生费用。

  1. 运行以下 Azure Developer CLI 命令来预配 Azure 资源并部署源代码：

    azd up

  2. 如果系统提示输入环境名称，请尽量使用小写的短名称。 例如 myenv。 它用作资源组名称的一部分。

  3. 出现提示时，选择要在其中创建资源的订阅。

  4. 当系统第一次提示你选择位置时，请选择你附近的位置。 此位置用于大多数资源，包括托管。

  5. 如果系统提示输入 OpenAI 模型或文档智能资源的位置，请选择离你最近的位置。 如果可以使用与第一个位置相同的位置，请选择该位置。

  6. 在应用部署后等待 5 或 10 分钟，然后再继续。

  7. 成功部署应用程序后，终端中会显示一个 URL。

    AZD CLI azd up 过程结束时报告的已部署应用的屏幕截图。

  8. 选择标记为 (✓) Done: Deploying service webapp 的 URL 在浏览器中打开聊天应用程序。

    浏览器中聊天应用的屏幕截图，其中显示了有关聊天输入的多个建议以及用于输入问题的聊天文本框。

使用聊天应用从 PDF 文件获取答案

聊天应用预加载了 PDF 文件中的员工权益信息。 可以使用聊天应用询问有关权益的问题。 以下步骤将引导你完成使用聊天应用的过程。 随着基础模型的更新，你的答案可能会有所不同。

  1. 在浏览器中，在聊天文本框中选择或输入在绩效考核中会发生什么情况？。

    聊天应用的第一个回答的屏幕截图。

  2. 从答案中选择引文。

    聊天应用的第一个回答的屏幕截图，其中用红框突出显示了引文。

  3. 在右窗格中，使用选项卡了解答案是如何生成的。

    Tab 说明
    思考过程 这是聊天中交互的脚本。 可以查看系统提示 (content) 和用户问题 (content)。
    支持内容 这包括用于回答你的问题的信息和来源材料。 开发人员设置中记录了来源材料引文的数量。 默认值为 3。
    引文 这将显示包含引文的原始页面。

  4. 完成后，再次选择所选选项卡以关闭窗格。

使用聊天应用设置更改答复行为

聊天的智能由 OpenAI 模型和用于与模型交互的设置确定。

聊天开发人员设置的屏幕截图。

设置 说明
替代提示模板 重写用于根据问题和搜索结果生成答案的提示。
温度 将请求的温度设置为生成答案的 LLM。 较高的温度会导致更有创造力的反应，但可能不那么接地气。
Seed 设置种子以提高模型的响应的可再现性。 种子可以是任意整数。
最低搜索分数 为从 Azure AI 搜索返回的搜索结果设置最低分数。 分数范围取决于使用的是混合（默认）、仅矢量还是仅文本。
最低重新排序器分数 为从语义重新排序器返回的搜索结果设置最低分数。 分数始终介于 0-4 之间。 分数越高，结果与问题的语义相关性就越大。
检索这么多搜索结果 设置从 Azure AI 搜索中检索的搜索结果数量。 更多的结果可能会增加找到正确答案的可能性，但可能导致模型“在中间丢失”。可以在引文的思维过程和支持内容选项卡中查看这些源。
排除类别 指定要从搜索结果中排除的类别。 默认数据集中没有使用任何类别。
使用语义排名程序进行检索 启用 Azure AI 搜索语义排序器，该模型基于用户查询的语义相似性对搜索结果进行重新排序。
使用语义标题 向 LLM 发送语义标题，而不是完整的搜索结果。 在语义排序过程中，从搜索结果中提取语义标题。
建议后续问题 请 LLM 根据用户的询问提出后续问题。
检索模式 设置 Azure AI 搜索查询的检索模式。 矢量 + 文本（混合）使用矢量搜索和全文搜索的组合，矢量仅使用矢量搜索， 而文本仅使用全文搜索。 “混合”通常最优。
流式处理聊天完成响应 在生成聊天 UI 时，连续地将响应流式传输到聊天 UI。

以下步骤将引导你完成更改设置的过程。

  1. 在浏览器中，选择开发人员设置选项卡。

  2. 选中“建议后续问题”复选框，然后再次提出相同的问题。

    What happens in a performance review?

    聊天返回了建议的后续问题，例如：

    1. What is the frequency of performance reviews?
2. How can employees prepare for a performance review?
3. Can employees dispute the feedback received during the performance review?

  3. 在“设置”选项卡中，取消选择“使用语义排名程序进行检索”。

  4. 再次询问相同的问题？

    What happens in a performance review?

  5. 答案有什么区别？

    借助语义排序器：在 Contoso Electronics 进行绩效考核期间，员工将有机会讨论他们在工作场所取得的成功和面临的挑战 (1)。 考核将提供积极的建设性反馈，以帮助员工在角色中发展和成长 (1)。 员工将收到一份绩效考核的书面摘要，其中包括对其绩效的评级、反馈以及来年的目标和目的 (1)。 绩效考核是经理和员工之间的双向对话 (1)。

    不使用语义排序器：在 Contoso Electronics 进行绩效考核期间，员工将有机会讨论他们在工作场所取得的成功和面临的挑战。 提供积极的建设性反馈，以帮助员工在角色中发展和成长。 提供一份绩效考核的书面摘要，其中包括对其绩效的评级、反馈以及来年的目标和目的。 考核是经理和员工之间的双向对话 (1)。

清理资源

清理 Azure 资源

本文中创建的 Azure 资源的费用将计入你的 Azure 订阅。 如果你预计将来不需要这些资源，请将其删除，以避免产生更多费用。

运行以下 Azure Developer CLI 命令以删除 Azure 资源并删除源代码：

azd down --purge --force

这些开关可提供：

  • purge：立即清除删除的资源。 这样，就可以重复使用 Azure OpenAI TPM。
  • force：该删除操作以无提示方式进行，无需用户同意。

清理 GitHub Codespaces

删除 GitHub Codespaces 环境可确保可以最大程度地提高帐户获得的每核心免费小时数权利。

重要

有关 GitHub 帐户权利的详细信息，请参阅 GitHub Codespaces 每月包含的存储和核心小时数。

  1. 登录到 GitHub Codespaces 仪表板 (https://github.com/codespaces)。

  2. 找到当前正在运行的、源自 Azure-Samples/azure-search-openai-demo GitHub 存储库的 Codespaces。

    所有正在运行的 Codespaces 的屏幕截图，其中包含它们的状态和模板。

  3. 打开 codespace 的上下文菜单，然后选择“删除”。

    单个 codespace 的上下文菜单的屏幕截图，突出显示了删除选项。

获取帮助

此示例存储库提供故障排除信息。

如果未解决问题，请将问题记录到存储库的问题部分。

后续步骤