在 Microsoft Foundry 中将黑名单与 Microsoft Foundry 中的模型配合使用

Note

本文档适用于 Microsoft Foundry（经典）门户。

🔄 如果你使用的是新门户，请切换到 Microsoft Foundry（新）文档。

可配置的内容筛选器足以满足大多数内容审核需求。 但是，可能需要在 Microsoft Foundry 门户中 创建自定义阻止列表，作为内容筛选配置的一部分，以筛选特定于用例的术语。 本文介绍如何在 Foundry 门户中创建自定义阻止列表作为内容筛选器的一部分。

Prerequisites

• 一份 Azure 订阅。 如果你正在使用 GitHub 模型，则可以升级体验并在此过程中创建 Azure 订阅。 有关详细信息，请参阅 从 GitHub 模型升级到 Foundry 模型。

• 铸造服务资源。 有关详细信息，请参阅 创建 Foundry Services 资源。

• Foundry 项目 已连接到 Foundry 服务资源。

• 模型部署。 有关详细信息，请参阅 向 Foundry 服务添加和配置模型。

  Note

  阻止列表（预览版）支持仅限于 Azure OpenAI 模型。

Note

本文档适用于 Microsoft Foundry（经典）门户。

🔄 如果你使用的是新门户，请切换到 Microsoft Foundry（新）文档。

创建阻止列表

1. 转到 Microsoft Foundry 并导航到项目。 然后选择左侧导航中的 Guardrails + 控件 页，然后选择“ 阻止列表 ”选项卡。

   

2. 选择“创建阻止列表”。 输入阻止列表的名称，添加说明，然后选择要连接到的 Azure OpenAI 资源。 然后选择“创建阻止列表”。

3. 选择新的阻止列表。 在阻止列表的页面上，选择“添加新字词”。

4. 输入要筛选的术语，然后选择 “添加术语”。 还可以使用正则表达式。 可以在阻止列表中删除每个词语。

将阻止列表附加到内容筛选器配置

1. 创建阻止列表后，返回到 Guardrails + 控件 页，然后选择 “内容筛选器 ”选项卡。创建新的内容筛选器配置。 此时会打开一个向导，其中包含多个 AI 内容安全组件。

   

2. 在 输入筛选器 和 输出筛选器 界面上，启用 阻止列表 开关。 然后，可以从列表中选择阻止列表。 有两种类型的阻止列表：你创建的自定义阻止列表，以及 Microsoft 提供的预生成阻止列表 - 在本例中为 Profanity 阻止列表（英文版）。

3. 确定要在内容筛选配置中包括的可用阻止列表。 通过选择 “下一步”查看并完成内容筛选配置。 始终可以返回并编辑配置。 准备就绪后，选择“ 创建内容筛选器”。 现在可以将包含阻止列表的新配置应用到部署。

后续步骤

• 配置内容筛选