共用方式為


檢視 Azure AI Foundry 項目中的 AI 紅隊評估結果(預覽)

這很重要

本文中標示為 (預覽) 的項目目前處於公開預覽狀態。 此預覽版本沒有服務等級協定,不建議將其用於生產工作負載。 可能不支援特定功能,或可能已經限制功能。 如需詳細資訊,請參閱 Microsoft Azure 預覽版增補使用條款

自動化掃描在 本機遠端執行完成後,結果也會被記錄到您在建立 AI 紅隊代理時所指定的 Azure AI Foundry 專案中。

檢視每個掃描的報告

在您的 Azure AI Foundry 專案或中樞型專案中,瀏覽至 [評估] 頁面,然後選取 [AI 紅隊] 分頁,以查看每個掃描的詳細分析的完整報表。

Azure AI Foundry 項目頁面中的 [AI Red Teaming] 索引卷標螢幕快照。

選取掃描之後,您可以依風險類別檢視報告,其中顯示成功的攻擊總數,以及每個風險類別成功攻擊的明細:

Azure AI Foundry 中依風險類別檢視 AI Red Teaming 報告檢視的螢幕快照。

或透過攻擊複雜度分類:

Azure AI Foundry 中依攻擊複雜度類別檢視 AI Red Teaming 報告檢視的螢幕快照。

向下切入數據索引標籤可提供每個攻擊回應組的數據列層級檢視,讓您深入瞭解系統問題和行為。 針對每個攻擊回應組,您可以看到其他資訊,例如攻擊是否成功、使用何種攻擊策略及其攻擊複雜度。 Loop 檢閱者也有一個選項,可藉由選取按讚或按遜圖示來提供人工意見反應。

Azure AI Foundry 中 AI Red Teaming 數據頁面的螢幕快照。

若要檢視每個交談,選取 [ 檢視更多 ] 會開啟完整交談,以更詳細地分析 AI 系統的回應。

AI Red Teaming 資料頁面的螢幕擷取畫面,其中已在 Azure AI Foundry 中開啟交談歷程記錄。

試用 GitHub 範例中的 範例工作流程