AI 工作負載的警示
本文列出您可能從 適用於雲端的 Microsoft Defender 取得之 AI 工作負載的安全性警示，以及您啟用的任何Microsoft Defender 方案。 您環境中顯示的警示取決於您要保護的資源和服務，以及您的自定義組態。
注意
一些由 Microsoft Defender 威脅情報 和 適用於端點的 Microsoft Defender 提供電源的最近新增警示可能未記載。
注意
來自不同來源的警示可能需要不同時間才會出現。 例如，需要分析網路流量的警示，可能會比與虛擬機上執行的可疑進程相關的警示出現的時間更長。
AI 工作負載警示
偵測到 Azure OpenAI 模型部署上的認證竊取嘗試
（AI.Azure_CredentialTheftAttempt）
描述：認證竊取警示的設計目的是在 GenAI 模型內偵測到認證回應使用者提示時通知 SOC，指出潛在的缺口。 此警示對於偵測認證外洩或竊取案例至關重要，這對產生 AI 而言是獨一無二的，如果成功，可能會產生嚴重後果。
MITRE 策略：認證存取、橫向移動、外泄
嚴重性：中
Azure AI 內容安全提示盾已封鎖 Azure OpenAI 模型部署的越獄嘗試
（AI.Azure_Jailbreak.ContentFiltering.BlockedAttempt）
描述：使用直接提示插入技術進行的越獄警示是設計來通知 SOC，嘗試操作系統提示以略過產生 AI 的防護功能，可能存取敏感數據或特殊許可權功能。 它指出，Azure 負責任 AI 內容安全 （AKA Prompt Shields） 會封鎖這類嘗試，以確保 AI 資源和數據安全性的完整性。
MITRE 策略：許可權提升、防禦逃避
嚴重性：中
Azure AI 內容安全提示盾偵測到 Azure OpenAI 模型部署的越獄嘗試
（AI.Azure_Jailbreak.ContentFiltering.DetectedAttempt）
描述：使用直接提示插入技術進行的越獄警示是設計來通知 SOC，嘗試操作系統提示以略過產生 AI 的防護功能，可能存取敏感數據或特殊許可權功能。 它指出，Azure 負責任 AI 內容安全（AKA 提示盾牌）偵測到這類嘗試，但由於內容篩選設定或信賴度低而未遭到封鎖。
MITRE 策略：許可權提升、防禦逃避
嚴重性：中
在 Azure OpenAI 模型部署中偵測到的敏感數據暴露
（AI.Azure_DataLeakInModelResponse.Sensitive）
描述：敏感數據外洩警示的設計目的是通知 SOC，GenAI 模型會回應具有敏感性資訊的使用者提示，這可能是因為惡意使用者嘗試略過產生 AI 保護來存取未經授權的敏感數據。
MITRE 策略：集合
嚴重性：中
損毀的 AI 應用程式\model\數據會引導使用者進行網路釣魚嘗試
（AI.Azure_PhishingContentInModelResponse）
描述：此警示表示組織所開發的 AI 應用程式損毀，因為它已主動與使用者共用用於網路釣魚的已知惡意 URL。 URL 源自於應用程式本身、AI 模型或應用程式可以存取的數據。
MITRE 策略：影響（污點）
嚴重性：高
AI 應用程式中共用的網路釣魚 URL
（AI.Azure_PhishingContentInAIApplication）
描述：此警示表示 AI 應用程式的潛在損毀，或其中一位使用者嘗試網路釣魚。 警示會判斷用於網路釣魚的惡意 URL 是在透過 AI 應用程式進行交談期間傳遞的，不過 URL（使用者或應用程式）的來源尚不清楚。
MITRE 策略：影響（污損），收藏
嚴重性：高
AI 應用程式中偵測到的網路釣魚嘗試
（AI.Azure_PhishingContentInUserPrompt）
描述：此警示指出使用者已將用於網路釣魚攻擊的URL傳送至 AI 應用程式。 內容通常會吸引訪客進入其公司認證或財務資訊進入合法外觀的網站。 將它傳送至 AI 應用程式可能是為了損毀、毒害其可存取的數據源，或透過應用程式的工具取得員工或其他客戶的存取權。
MITRE 策略：集合
嚴重性：高
注意
針對處於預覽狀態的警示： Azure 預覽補充條款 包含適用於 Beta 版、預覽版或尚未發行至正式運作之 Azure 功能的其他法律條款。