AI 工作負載的警示

本文列出您可能會從適用於雲端的 Microsoft Defender 取得 AI 工作負載的安全性警示，以及您啟用的任何Microsoft Defender 方案。您環境中顯示的警示取決於您要保護的資源和服務，以及您的自定義組態。

注意

Microsoft Defender 威脅情報和適用於端點的 Microsoft Defender 提供電源的一些最近新增的警示可能未記載。

注意

來自不同來源的警示可能需要不同時間才會出現。例如，需要分析網路流量的警示，可能會比與虛擬機上執行的可疑進程相關的警示出現的時間更長。

AI 工作負載警示

（AI.Azure_CredentialTheftAttempt）

描述：認證竊取警示的設計目的是在 GenAI 模型內偵測到認證回應使用者提示時通知 SOC，指出潛在的缺口。此警示對於偵測認證外洩或竊取案例至關重要，這對產生 AI 而言是獨一無二的，如果成功，可能會產生嚴重後果。

MITRE 策略：認證存取、橫向移動、外泄

嚴重性：中

（AI.Azure_Jailbreak.ContentFiltering.BlockedAttempt）

描述：使用直接提示插入技術進行的越獄警示是設計來通知 SOC，嘗試操作系統提示以略過產生 AI 的防護功能，可能存取敏感數據或特殊許可權功能。它指出，Azure 負責任 AI 內容安全（AKA Prompt Shields）會封鎖這類嘗試，以確保 AI 資源和數據安全性的完整性。

MITRE 策略：許可權提升、防禦逃避

嚴重性：中

（AI.Azure_Jailbreak.ContentFiltering.DetectedAttempt）

描述：使用直接提示插入技術進行的越獄警示是設計來通知 SOC，嘗試操作系統提示以略過產生 AI 的防護功能，可能存取敏感數據或特殊許可權功能。它指出，Azure 負責任 AI 內容安全（AKA 提示盾牌）偵測到這類嘗試，但由於內容篩選設定或信賴度低而未遭到封鎖。

MITRE 策略：許可權提升、防禦逃避

嚴重性：中

（AI.Azure_DataLeakInModelResponse.Sensitive）

描述：敏感數據外洩警示的設計目的是通知 SOC，GenAI 模型會回應具有敏感性資訊的使用者提示，這可能是因為惡意使用者嘗試略過產生 AI 保護來存取未經授權的敏感數據。

MITRE 策略：集合

嚴重性：中

注意

針對處於預覽狀態的警示： Azure 預覽補充條款包含適用於 Beta 版、預覽版或尚未發行至正式運作之 Azure 功能的其他法律條款。