你当前正在访问 Microsoft Azure Global Edition 技术文档网站。如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。

滥用监视

如果有反复出现的内容和/或行为表明使用 Azure OpenAI 服务的方式可能违反了行为准则或其他适用产品条款，Azure OpenAI 服务会检测和缓解这些内容和/或行为的实例。若要详细了解数据的处理方式，可查看“数据、隐私和安全”页。使用此表单申请经过修改的滥用监视功能：Azure OpenAI 有限访问评审：经过修改的滥用监视功能。

滥用监视功能的组成部分

滥用监视功能由下面几部分组成：

内容分类：分类器模型检测用户提示（输入）和完成项（输出）中的有害语言和/或图像。系统查找内容要求中定义的危害类别，并按照“内容筛选”页中的更详细描述分配严重性级别。
滥用模式捕获：Azure OpenAI 服务的滥用监视功能查看客户使用模式，并采用算法和启发法来检测潜在滥用指标。例如，检测到的模式考虑了在客户的提示和完成项中检测到有害内容的频率和严重性。
人工评审和决策：通过上述内容分类和滥用模式捕获标记提示和/或完成项时，获得授权的 Microsoft 员工可能会评估已标记的内容，并根据预定义的准则和策略确认或更正分类/决定。只有获得授权的 Microsoft 员工可通过安全访问工作站 (SAW) 访问数据进行人工评审，由团队经理授予即时 (JIT) 请求审批。对于部署在欧洲经济区的 Azure OpenAI 服务资源，获得授权的 Microsoft 员工位于欧洲经济区。
通知和操作：根据上述三个步骤确认滥用行为的阈值后，会通过电子邮件将这一决定告知给客户。除了严重或反复滥用的情况外，客户通常有机会解释或修正滥用行为，并实施机制来防止滥用行为再次发生。如果未能解决该行为（或反复出现或严重滥用），可能会导致暂停或终止客户对 Azure OpenAI 资源和/或功能的访问。