你当前正在访问 Microsoft Azure Global Edition 技术文档网站。如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。

AI 工作负载警报

本文列出了从 Microsoft Defender for Cloud 获取的 AI 工作负载以及启用的任何Microsoft Defender 计划的安全警报。环境中显示的警报取决于要保护的资源和服务以及自定义的配置。

注意

一些最近添加的由 Microsoft Defender 威胁智能和 Microsoft Defender for Endpoint 提供支持的警报可能未记录。

注意

来自不同源的警报可能在不同的时间后出现。例如，需要分析网络流量的警报的出现时间，可能比虚拟机上运行的可疑进程的相关警报要晚一些。

AI 工作负荷警报

（AI.Azure_CredentialTheftAttempt）

说明：凭据盗窃警报旨在当 GenAI 模型内检测到凭据时通知 SOC，以响应用户提示，指示潜在的泄露。此警报对于检测凭据泄漏或盗窃案例至关重要，这对于生成 AI 来说是唯一的，如果成功，可能会产生严重后果。

MITRE 策略：凭据访问、横向移动、外泄

严重性：中等

（AI.Azure_Jailbreak.ContentFiltering.BlockedAttempt）

说明：使用直接提示注入技术执行的越狱警报旨在通知 SOC，试图操纵系统提示以绕过生成 AI 的安全措施，可能访问敏感数据或特权功能。它表示，Azure 负责任的 AI 内容安全（AKA Prompt Shields）阻止了此类尝试，确保 AI 资源和数据安全的完整性。

MITRE 策略：特权升级、防御逃避

严重性：中等

（AI.Azure_Jailbreak.ContentFiltering.DetectedAttempt）

说明：使用直接提示注入技术执行的越狱警报旨在通知 SOC，试图操纵系统提示以绕过生成 AI 的安全措施，可能访问敏感数据或特权功能。它表示，Azure 负责任的 AI 内容安全（AKA 提示盾牌）检测到此类尝试，但由于内容筛选设置或置信度低，未阻止此类尝试。

MITRE 策略：特权升级、防御逃避

严重性：中等

（AI.Azure_DataLeakInModelResponse.Sensitive）

说明：敏感数据泄露警报旨在通知 SOC，GenAI 模型使用敏感信息响应用户提示，这可能是由于恶意用户试图绕过生成 AI 的安全措施来访问未经授权的敏感数据。

MITRE 策略：集合

严重性：中等

注意

对于处于预览状态的警报：Azure 预览版补充条款包含适用于 beta 版、预览版或其他尚未正式发布的 Azure 功能的其他法律条款。