什麼是申請卡或平台卡？
Microsoft 的應用程式與平台卡旨在幫助您了解 AI 技術的運作方式、應用程式擁有者可做出影響應用程式效能與行為的選擇，以及考量整個應用程式的重要性，包括技術、人員與環境。 應用程式卡是為 AI 應用製作，平台卡則是為 AI 平台服務製作。 這些資源可以支援您自家應用程式的開發或部署，並可與受影響的使用者或利害關係人分享。
作為負責任 AI 承諾的一部分，Microsoft 遵循 六大核心原則：公平、可靠性與安全、隱私與安全、包容性、透明度與問責制。 這些原則嵌入於負責任的 AI Standard 中，指導團隊設計、建置及測試 AI 應用。 應用卡與平台卡在落實這些原則中扮演關鍵角色，透過透明化能力、預期用途及限制。 為了深入了解，建議讀者參考 Microsoft 的《負責任 AI 透明度報告 》及 Microsoft 企業 AI 服務行為準則，該準則說明如何負責任地與 AI 互動。
概觀
Microsoft Security Copilot 是一款由 AI 驅動的生成式安全解決方案，協助提升防禦者的效率與能力，以機器速度與規模提升安全成果。 Security Copilot 提供自然語言輔助副駕駛體驗，協助資安專業人員與 IT 管理員處理各種端到端情境，包括事件回應、威脅狩獵、情報蒐集及態勢管理。
Security Copilot 以整合為設計重點，並提供沉浸式獨立體驗。https://securitycopilot.microsoft.com 該平台能無縫整合 Microsoft 安全產品組合，如 Microsoft Defender 全面偵測回應、Microsoft Sentinel、Microsoft Intune、Microsoft Entra 及 Microsoft Purview，並支援第三方服務。
Security Copilot 代理會產生輸出，並可根據客戶設定的邏輯、權限與觸發器執行動作。 客戶可以使用自主的 Security Copilot 代理自動化安全工作流程，加速回應速度、優先處理風險並減少手動工作負擔，同時保有完全的控制權。 代理人自主性指的是代理人在定義範圍內獨立採取行動的能力。
管理員 (Security Copilot 擁有者) 透過Security Copilot入口網站與安全商店發現並部署代理，部分代理也會出現在Microsoft安全產品內嵌體驗中。 管理員設定代理的身份，並為代理設定基於角色 (RBAC) 的存取控制。
目標使用者包括 SOC 分析師、IT 管理員、資料安全與身份管理員、合規分析師，以及資安領導者，如資訊安全長 (CISO) 。
Security Copilot持有ISO 42001認證，該認證確認有獨立第三方審查Microsoft在持續開發、部署及Microsoft AI運作中有效管理風險與機會所需的框架與能力。
欲了解更多資訊，請參閱「什麼是 Microsoft Security Copilot？」、「Microsoft Security Copilot 體驗」及「Security Copilot 應用程式卡」。
重要術語
下表提供了與 Microsoft Security Copilot 代理相關的關鍵術語詞彙表。
| 術語 | 定義 |
|---|---|
| 代理程式 | Security Copilot 代理透過整合的資料來源與外掛處理來自客戶環境的訊號，分析資料並產生建議。 代理程式也可能在設定權限內執行指定範圍的動作，這些動作需要適當的使用者或管理員批准。 客服人員的配置範圍從簡單的提示與回應體驗，到更自動化、半自主且由人工監督的工作流程皆有。 |
| 代理人作用 | 代理人執行的操作，例如根據權限擷取資料、產生輸出或修改設定。 |
| 代理清單 | 一個定義代理者能力、工具與行為的設定檔。 它控制代理在 Security Copilot 中的運作方式，並以 YAML 檔案格式表示。 |
| 嵌入式經驗 | 從其他 Microsoft 安全產品內部存取 Security Copilot 功能，例如 Microsoft Defender 全面偵測回應或 Microsoft Sentinel。 Security Copilot 側車面板直接將 AI 協助置於該產品的情境中。 |
| 基礎設置 | 向大型語言模型提供與使用者提示相關的上下文輸入來源的過程。 透過讓 Security Copilot 能透過外掛及 Microsoft 安全產品存取組織資料，Security Copilot 能提供更準確且具情境相關性的回應。 |
| 大型語言模型 (大型語言模型) | AI 模型以大量文字資料訓練，預測字序中的單字。 LLM 能執行多種任務，如文字生成、摘要、翻譯、分類等。 |
| 合作夥伴自建代理 | 由 Microsoft 合作夥伴發佈並透過安全商店提供的特定安全使用案例的代理程式。 |
| 插件 | 一系列相關工具，透過 API 讓 Security Copilot 存取 Microsoft 及非 Microsoft 服務與公開網站的資源，擴展其功能。 外掛為 Security Copilot 產生的回應和輸出增添更多上下文。 |
| 後製 | Security Copilot 在將回應還給使用者之前，進行精煉與準備的一系列動作。 後處理包括透過插件進行額外的接地通話、負責任的 AI 檢查、安全性、合規性及隱私檢查。 |
| 提示 | 使用者傳送給 Security Copilot 以執行特定任務或獲取資訊的自然語言文字。 例如，總結 此事件並建議補救措施。 |
| 提示本 | 一系列依序執行的提示，建立在先前回應的基礎上，以完成特定的安全相關任務。 提示書可在圖書館使用，或由使用者自行製作與分享。 |
| 紅隊測試 | 專家用來評估系統的限制與脆弱性，以及測試計畫緩解措施成效的技術。 紅隊測試用於識別潛在風險，與系統性風險測量不同。 |
| 負責任的 AI | Microsoft 的政策、研究與工程實踐，皆根植於其 AI 原則，並透過 負責任 AI 標準實施。 欲了解更多資訊，請參閱 Fluent RAI 指引。 |
| 安全運算單元 (SCU) | SCU 是用來執行 Security Copilot 工作負載並在各體驗中提供一致效能的運算能力單位。 Security Copilot 容量以 SCU 計算，可透過配置或超額容量模型消耗。 欲了解更多資訊，請參閱「了解SCU」。 |
| 安全作業中心 (SOC) | 專門的安全團隊或設施，專注於持續監控、分析及回應組織內的網路安全事件。 SOC 分析師是 Security Copilot 的主要目標使用者之一。 |
| 獨立體驗 | 沉浸式 Security Copilot 入口網站體驗可直接存取https://securitycopilot.microsoft.com。 |
| 租用戶 | Microsoft Entra ID 中的組織邊界，用以隔離 Security Copilot 的身份、存取權限與資料。 租戶透過租戶層級的權限和安全控制來管理所有工作空間、使用者與互動。 |
| 觸發程序 | 一個事件或條件，告訴代理開始執行其工作流程。 觸發器可以是基於時間的 (例如，威脅情報簡報代理的每週排程) 或由使用者或管理員按需手動執行的 () 。 觸發器是在代理設定時設定的。 |
主要特色或能力
下表的主要功能與能力描述了 Microsoft Security Copilot 的設計目標及其在支援任務中的表現。
| 功能或特性 | 描述 |
|---|---|
| 事件調查與應變 | Security Copilot 協助資安專業人員分流與調查事件，透過產生複雜安全警示摘要、將 Microsoft Defender 全面偵測回應、Microsoft Sentinel 及其他整合產品間的訊號進行關聯，並提供逐步修復指引。 |
| 威脅情報 | Security Copilot 能搜尋 Microsoft Defender 威脅情報文章與個人資料、威脅分析報告及漏洞揭露出版物，以呈現與提示相符的相關情報。 |
| 腳本分析與 KQL 查詢產生 | Security Copilot 能分析可疑腳本或惡意軟體，並將自然語言轉換成 KQL 查詢，使各級團隊成員都能執行進階的搜尋與技術分析任務。 |
| 安全性狀態管理 | Security Copilot 幫助使用者了解環境中的優先風險，並透過與 Microsoft Defender 全面偵測回應、Microsoft Entra 及 Microsoft Intune 整合，找出改善態勢的機會。 |
| 安全政策建立與管理 | 使用者可以定義新政策，與現有衝突政策交叉參照，並以淺顯語言摘要政策，以管理複雜的組織情境。 |
| 利害關係人報告 | Security Copilot 能產生報告，總結上下文、未解決議題及針對目標受眾（如高階主管或資安團隊）量身打造的防護措施。 |
| Promptbooks | 提示簿是一連串的提示，執行以完成特定的安全任務。 使用者可以從共享函式庫執行提示書，或自行建立並分享。 |
| Agents | Security Copilot 支援在管理員授權範圍內自動化並協助安全與 IT 作業的代理。 代理透過設定的身份、存取控制與觸發器執行行動，並在人類監督下作為安全工作流程的一部分。 Microsoft 自建代理涵蓋安全產品組合，涵蓋 SOC 作業、威脅狩獵、威脅情報、身份管理、端點管理及資料安全。 管理員在設定時會設定每個代理的身份、權限和觸發器。 使用者可以檢視代理的觸發器、資料存取、身份及動作權限 (如讀寫) ，以了解代理在其定義範圍內的運作方式。 關於特定代理及其使用情境的詳細資訊，請參見 「預期用途」。 |
| 多語言支援 | Security Copilot 支援多種語言的提示與回應。 欲了解更多資訊，請參閱 支援語言。 |
Security Copilot 是一款由 AI 驅動的安全解決方案，具備輔助性與自主代理系統兩種功能。 要理解代理人自治，請考慮：
- 啟動觸發器 ——是什麼條件或使用者操作導致代理程式運行
- 存取權限 ——代理能使用哪些資料、系統或資源
- 行動權 ——代理人被授權自行採取的行動
以下章節描述支撐代理人推理、規劃、記憶、適應及擴展其觸角的核心能力。
推理
Security Copilot 代理利用底層大型語言模型分析可用上下文、評估訊號，並決定最合適的行動方案。 例如，釣魚分流代理會評估電子郵件內容、寄件人聲譽及行為訊號，以產生具有自然語言理由的分類判斷。 代理人會透明地呈現推理，讓分析師能在採取行動前審查、驗證或推翻結論。
規劃
代理人會針對明確的觸發條件運作，這些觸發器指示代理人系統啟動一連串結構化的行動，朝向目標達成目標。 代理可配置為：
- 自動依照排程執行 (例如，威脅情報簡報代理每七天) 運行一次。
- 需要時手動執行。
此設計賦予代理一個目標導向的執行模型，系統分析何時以及如何行動以完成任務。
記憶體
Security Copilot 代理可以隨時間保留資訊，稱為記憶體。 記憶體允許代理將過去的輸入整合到未來的行為中，視代理的設計與配置而定。
記憶體可以包含使用者提供的回饋。 代理人可以利用這些回饋調整後續互動中的反應或行動。
適應性
Security Copilot 代理程式設計能根據使用者回饋與操作情境調整，同時持續在其設定的身份、權限與觸發器範圍內運作。
- 回饋循環：Security Copilot 擁有者與貢獻者可以對客服人員的回應提供回饋。 這些回饋會儲存在代理的記憶體中，並可能根據代理的設計與配置影響未來的輸出。
- 情境接地：在提示處理過程中，Security Copilot 利用接地來豐富提示。 此流程結合相關組織資料、啟用的外掛及威脅情報，使回應反映當前情境。
- 可配置身份與權限：設定後可更新代理以修改身份、觸發器及參數。 這使客服人員能與不斷演變的工作流程與需求保持一致。
擴充性
- 外掛：代理使用外掛透過 API 聯絡外部服務，包括聲譽查詢、威脅情報及端點資料。 支援 Microsoft 自建與合作夥伴自建的外掛。 欲了解更多資訊，請參閱 插件總覽。
- 連接器：Logic Apps 與 Copilot Studio 連接器包裝 Security Copilot API，使開發者與使用者能從外部自動化工作流程呼叫平台。 欲了解更多資訊，請參閱 連接器概述。
- 自訂代理：開發者可依特定使用情境打造客製化代理，並透過開發者平台將其加入 Security Copilot 生態系統。 欲了解更多資訊，請參閱 開發客製化代理。
- 安全商店：可從內建代理函式庫與安全商店中發現並部署預建的 Microsoft 及合作夥伴代理程式。
- 嵌入式體驗：代理人員不僅在 Security Copilot 獨立入口網站中運作，也嵌入於更廣泛的 Microsoft 安全生態系統中，包括 Microsoft Defender 全面偵測回應、Microsoft Sentinel、Microsoft Intune，Microsoft Entra 和 Microsoft Purview。
預期用途
Microsoft Security Copilot 代理程式專為資安專業人士與 IT 管理員設計，以支援安全工作流程，例如情報蒐集與關聯。 代理可以在管理員定義的權限範圍內運作，協助簡化原本可能需要大量手動操作的任務，同時保持人員掌控。 一些預期代理的使用案例範例包括：
威脅情報簡報：威脅情報簡報代理透過關聯Microsoft Defender 威脅情報資料、Defender 外部受攻擊面管理 (EASM) 訊號及即時客戶情境，產生及時且詳盡的威脅情報報告。 資安分析師可以利用此代理，將花費數小時甚至數天的人工情報蒐集與關聯，換成幾分鐘內產生的報告。
安全資料分析 (Microsoft Defender 全面偵測回應) ：安全分析師代理協助安全分析師快速識別、評估並優先處理大量安全資料中的風險。 該代理執行基本分析任務，如模式分析、趨勢分析與視覺化，以及進階任務，如異常偵測、分群、風險評分及預測建模。 它整合了 Microsoft Defender 全面偵測回應、Microsoft Sentinel 日誌分析、Microsoft Sentinel 資料湖 及上傳的 CSV 檔案，產生優先洞察與完整證據軌跡，提供互動式、無程式碼的聊天體驗。
安全作業與事件應變 (Microsoft Defender 全面偵測回應) ：
- 釣魚分流代理會在用戶回報的釣魚郵件提交時進行評估，並以透明的理由分類判決，並隨時間納入分析師的反饋。
- 動態威脅偵測代理程式持續在背景執行，透過關聯警示、事件、異常與威脅情報，揭露 Defender 與 Microsoft Sentinel 環境中隱藏的威脅與漏洞。
威脅狩獵 (Microsoft Defender 全面偵測回應) ：威脅狩獵代理使得利用自然語言實現端對端的威脅狩獵。 它能產生 KQL 查詢、解讀結果、呈現洞見，並引導分析師完成完整的搜尋過程，以更快且更有信心地發現威脅。
身份與存取管理 (Microsoft Entra) ：
- 條件存取優化代理會分析條件存取政策，並根據 Microsoft 最佳實務與零信任原則提出改進建議。
- 身份風險管理代理協助身份管理員調查潛在風險並採取行動保護關鍵資產。
端點管理 (Microsoft Intune) ：
- 漏洞修復代理利用 Defender 資料監控漏洞，並透過 AI 驅動的風險評估來優先處理修復。
- 政策設定代理程式允許管理員匯入文件或撰寫純語言指令，以在 Intune 設定目錄中尋找匹配的設定並建立政策。
- 變更審查代理會評估 Intune 中核准請求的影響，並提出管理員可採取的行動建議。
資料安全調查 (Microsoft Purview) ：
- 內部 風險管理中的分流代理 會根據使用者、檔案及活動風險評估警示，並自動將其分類為優先類別，協助資安團隊專注於風險最高的案件。
- 資料遺失防護中的 Purview 分流代理根據敏感性風險、資料外洩風險及政策風險評估 DLP 警示，協助資料安全管理員對最關鍵事件採取行動。
自訂代理工作流程：開發者可利用自然語言處理、上傳代理清單，或使用針對組織特定安全使用情境量身打造的 MCP 工具，透過外掛與連接器擴展代理能力至 Microsoft 及非 Microsoft 服務。 欲了解更多資訊，請參閱 海關代理人。
當客服人員和使用者需要協作，提供導引式解決方案時，你也可以建立互動式聊天代理。 欲了解更多資訊，請參閱 互動代理人。
模型與訓練資料
Microsoft Security Copilot 利用Azure OpenAI 大型語言模型 (Azure銷售的 Foundry Models) 大型語言模型，來驅動自然語言體驗。 這些模型並未以 Security Copilot 客戶資料訓練。 模型能力在推理、速度、限制及支援情境上有所不同。
Security Copilot 也透過外掛與接地整合安全專屬知識與脈絡，為大型語言模型提供相關的組織資料、威脅情報及權威內容，而非透過模型訓練。
效能
Security Copilot 設計用於企業安全環境中，該環境中會產生大量即時安全訊號，涵蓋 Microsoft 安全性 產品及組織設定的其他資料來源。 它整合來自這些來源的訊號，結合了結構化日誌資料的即時處理與調查推理。 此系統旨在協助偵測、分析並追蹤跨多個資料來源的安全事件來源與影響。
Security Copilot 運行於 Microsoft 的超大規模基礎設施及安全專屬編排層，旨在支援在反覆威脅偵測與調查情境中具備可擴展性且具韌性的效能。
代理透過管理員設定的權限，執行定義的安全任務，擴展 Security Copilot 對安全訊號的反應能力。 代理者會根據可用訊號進行推理，規劃並執行結構化行動，並產生如分流決策、情報報告及基於即時組織與威脅情報資料的修復指引等輸出。 代理執行透過逐步節點地圖透明，讓分析師能檢視產生的步驟， (而非深入摘要每個節點) 採取的具體行動，並驗證各次執行結果。
效能可靠性還透過預先設定的 Microsoft 建置代理程式（以代表性工作流程進行測試）以及自訂代理程式來支持，後者透過明確的 YAML 檔案，透過指定能力、工具、觸發器及操作邊界，促進行為一致性。 當明確定義指令時，代理人能更準確地解讀任務、選擇適當行動，並在預期範圍內運作。 欲了解更多資訊，請參閱 海關代理人。
對於互動代理來說，效能主要透過代理與使用者之間的反覆交換來塑造。 代理人會產生初始回應，使用者則根據代理人呈現的內容，透過後續提示來細化上下文。 這種來回互動讓使用者能逐步引導代理人達成比單一自主運行更精確且具目標的結果。 欲了解更多資訊，請參閱 互動代理人。
限制
了解 Security Copilot 的限制對於確保其在安全且有效的範圍內使用非常重要。 雖然鼓勵客戶在安全工作流程中使用 Security Copilot，但值得注意的是，Security Copilot 並非為所有可能情境設計。 選擇使用情境時，請參考 Microsoft 企業 AI 服務行為準則 及以下考量事項：
- 公開預覽狀態：部分代理程式處於公開預覽階段，可能在正式上市前進行大幅修改。 Microsoft 對這些功能不作明示或暗示的保證。 如同任何 AI 輸出，客戶必須先審查代理人的決策，才能對其輸出採取行動。
- 準確性與完整性：如同任何 AI 技術，Security Copilot 並非事事皆準。 回應可能不準確、不完整或過時，尤其是當相關外掛未啟用，或無法透過使用者輸入或組織情境取得最新資料時。 使用者應始終以人類判斷並驗證關鍵輸出，而非僅依賴 AI 生成的回應。
- 領域專屬範圍：Security Copilot 設計用來回應與安全領域相關的提示，例如事件調查與威脅情報。 超出安全範疇的提示可能導致回應不夠準確且不全面。
- 腳本與程式碼產生：Security Copilot 可能會產生程式碼或在回應中包含程式碼。 回應可能看似有效，但在語義或語法上不正確，或無法準確反映請求者的意圖。 產生的程式碼不應在未經適當驗證、測試與審查程序的情況下部署到生產環境。 使用者還必須驗證所產生程式碼所使用的參數是否與原始請求相符。 例如，如果代理在特定時間範圍內執行警報，請確認所產生程式碼的時間範圍與自然語言提示中指定的時間範圍相符。
- 提示長度限制：系統可能無法處理長提示，例如包含數十萬字元的提示。 底層的大型語言模型有代幣限制，過度冗長的查詢或延長會話可能會溢出代幣空間。 當這種情況發生時，Security Copilot 會嘗試套用緩解措施，確保即使內容不理想，輸出仍能隨時可用;然而，這些緩解措施並不總是有效，可能需要嘗試不同的提示或外掛。
- 使用限制與延遲：平台使用可能受到使用限制或容量限速的影響。 產生回應，包括透過插件呼叫 API 以及在顯示回應前檢查回應，可能耗時且需要高 GPU 容量。 組織應監控 SCU 的使用量，並視需要調整配置容量，以避免意外服務中斷。
- 偏見、刻板印象與無根據的內容：儘管對使用者提示與大型語言模型輸出實施了負責任的 AI 控制，AI 服務仍存在錯誤且機率性強。 這使得全面封鎖所有不當內容變得困難，進而可能導致 AI 產生的產出產生偏見、刻板印象或毫無根據的內容。
- 政府與 Microsoft 主權公私雲：目前這些環境尚未支援 Security Copilot。
- 任務專屬代理人邊界：代理人僅適合其設計執行的特定任務。 欲了解更多資訊，請參閱 預期使用案例 章節。 它們不適合用於其他任務，也不應該被重新利用超出其定義範圍。
- 節點映射細節：代理節點映射提供代理工作流程中執行的步驟的高階視圖。 每個節點代表流程中的一個步驟，並顯示所使用的技能名稱，以及完成狀態、持續時間和時間戳記等基本元資料。 節點地圖設計用來顯示動作順序，但並未提供每個步驟中具體操作或決策的詳細資訊。 由於節點映射僅呈現摘要資訊，可能無法完全捕捉每個動作的上下文或複雜度。
- 代理回饋與記憶體透明性：當使用者向代理提交回饋以儲存在記憶體時，代理不會提供其對回饋的解讀摘要。 為了提升未來輸出的準確度，使用者應提供清晰、簡潔且具體的回饋。 提交給代理人的回饋可能會被儲存並用來影響未來的輸出。 然而，對這些儲存回饋的可見性會因客服經驗與使用者角色而異。 欲了解更多資訊，請參閱 「提供回饋」。
評價
效能與安全評估透過檢視 AI 應用是否可靠且安全運作，透過檢視其根基性、相關性與連貫性等因素，並識別產生有害內容的風險。 以下評估是在已具備安全元件的情況下進行的，這些元件也在《 安全元件與緩解措施》中有詳細說明。
品質與安全的評估資料
我們的評估數據是客製化打造，用以評估 AI 應用在安全與品質關鍵領域的表現，模擬真實世界情境與風險。 我們首先根據跨領域研究與專家意見，找出相關的評估面向。 這些關切轉化為有針對性的評估目標，並指導評估指標的制定。
為了安全，我們會設計對抗性提示，誘發不良或邊緣情況的回應，然後由受過訓練的 AI 標註器評分，評估是否符合 Microsoft 的安全標準。 為了品質，我們設計符合情境的評分標準提示，包括評估檢索增強生成 (RAG) 應用與代理。
資料集來自多元來源，包括合成資料集與公開資料集，以模擬真實世界的使用者情境。 利用精選資料集，兩種評估都經過反覆優化與人為比對，以提升指標效能與可靠性。 此方法論奠定了可重複且嚴謹評估的基礎，反映客戶如何利用評估來打造更優秀且更安全的 AI。
自訂評估
透過迴歸測試、精選提示資料集及生產環境對齊範例，進行客製化評估以驗證模型在接地、對抗性穩健性及有害內容情境下的表現。 評估比較了 GPT 模型間的輸出，利用內部工具評估接地性，以及 Azure OpenAI 內容過濾以驗證防越獄、提示注入及智慧財產權侵害的防護。 結果顯示表現穩定或提升，包括在敵對情境下的強大防護率及更精確的接地精度。
有害內容處理在各模型間保持一致，並以註解模式運作以支援安全導向的應用，並透過更多大規模測試確認各類別的高防護率。 迴歸測試是為了確認內容本身不有害，不會被歸類為有害。
Security Copilot 代理程式由其產品與研究團隊根據使用案例與客戶設計意見進行評估。 特工系統的安全也透過專門的紅隊演練進行評估。 Microsoft 也完成了 Security Copilot 服務的滲透測試，以驗證對未經授權存取的保護。
隨著 Security Copilot 發布，使用者回饋對於幫助 Microsoft 改進系統至關重要。 使用者可選擇對 Security Copilot 的代理回應提供回饋。 這些回饋直接傳送給 Microsoft，並用來透過持續迭代優化提升平台效能。 欲了解更多資訊，請參閱 「提供回饋」。
安全組件與緩解措施
透過紅隊測試等流程識別潛在風險與誤用並進行測量，我們制定了減輕措施以降低潛在傷害。 我們會持續評估 Microsoft Security Copilot 的體驗，以提升產品效能與緩解措施。 以下列表描述部分緩解措施：
- 有害內容過濾與防護措施：Security Copilot整合Microsoft開發的防護措施 (內容過濾) 及濫用偵測模型，作為Azure OpenAI 服務基礎的一部分。 這些神經分類模型能偵測並過濾包括仇恨、性、暴力及自殘等多個嚴重程度的有害內容。 可選的分類模型也能偵測越獄風險、已知的文字或程式碼內容，以及間接提示注入攻擊。 這些分層控制有助於防止 AI 產生違反 Microsoft 安全標準的回應。
- 設計以減少不可逆行為：Microsoft 設計的代理情境旨在減少不可逆行為，並讓使用者掌控關鍵決策。 對於自訂代理，非 Microsoft 設計的代理程式，代理開發者可以修改代理行為，以確保不可逆的行為被最小化。
- 安全系統設計：Microsoft 為 Security Copilot 開發了一套安全系統，旨在減少故障並防止濫用，包括有害內容註解、操作監控及其他防護措施。 Azure OpenAI 服務責任 AI 緩解要求不直接適用於 Security Copilot 客戶，因為 Security Copilot 代表客戶執行這些緩解措施。
- 使用者回饋循環：客服人員回覆後，使用者可以提供回饋。 根據配置不同，使用者也可能提交額外的書面回饋，以提供經驗背景。 提交的回饋會被 Microsoft 收集並用於提升產品品質、識別問題，並優先提升 Security Copilot 體驗。
- Security Copilot RBAC) (Agent 身份治理與基於角色的存取控制：每個 agent 都以管理身份或使用者帳號運作，讓管理員能管理其可存取的資料。 每個代理都有 RBAC 控制，代理可能會進一步限制他們處理的資料內容。 透過限制每位代理的權限，系統降低未經授權資料外洩的風險，並確保所有自動化操作皆可稽核與可追蹤。
- 資料加密與存取保護：Security Copilot 處理的客戶資料在傳輸中及靜止時均加密，詳見 Microsoft 產品與服務資料保護附錄。 預設情況下，沒有人類使用者能存取資料庫，網路存取僅限於部署Security Copilot應用程式的私人網路;若事件回應) (需要人員存取，則必須經授權Microsoft員工核准提升權限及網路存取權限。 請參閱合規。
- 分階段部署方式：Security Copilot 透過邀請制搶先體驗計畫釋出功能，讓 Microsoft 能在更廣泛開放前收集回饋並優化功能。
我們對風險繪製、衡量與管理的風險方法，隨著學習與改進，並根據客戶回饋持續改進。
部署與採用 Microsoft Security Copilot 的最佳實務
負責任的 AI 是 Microsoft 與其客戶之間的共同承諾。 雖然 Microsoft 以安全、公平與透明為核心打造 AI 系統，但客戶在負責任地部署與使用這些技術時，扮演著關鍵角色。
Security Copilot 代理的設計目的是增強人類專業知識，而非取代。 客戶仍負責審查產出、驗證決策，並確保遵守適用法律、法規及組織政策。
部署者與終端使用者應：
在使用 Security Copilot 處理重大決策或敏感領域時，請謹慎並評估結果：重大決策是指可能對個人就業、法律服務、醫療的取得產生法律或重大影響，或可能導致身體、心理或經濟損害的決策。 金融服務、醫療保健及法律等敏感領域因可能對不同族群產生不成比例的影響而需特別關注。 在這些領域使用 AI 做決策時，客戶應確保受影響的利害關係人能理解決策過程、申訴決策並更新相關輸入資料。
評估法律與法規考量：客戶需評估使用任何 AI 服務與解決方案時可能面臨的特定法律與監管義務，這些服務可能不適用於所有產業或情境。 此外，AI 服務或解決方案並非設計用於適用服務條款及相關行為準則所禁止的用途。
啟用並維護相關外掛：Security Copilot 回應的品質與準確性，很大程度上取決於所啟用的外掛。 管理員應確保適當的 Microsoft 及第三方外掛被設定與維護，讓使用者能收到貼近情境且具背景性的回應。
終端使用者應：
撰寫有效的提示：撰寫清晰且具體的提示是使用 Security Copilot 取得更好成果的關鍵。 請包含相關背景，如事件編號、資產名稱或時間範圍。 必要時反覆生成提示，並持續審查並驗證 AI 生成的回應。 欲了解更多資訊，請參閱 Security Copilot 的提示提示。
適當時行使人類監督：人類監督是與 AI 系統互動的重要保障。 雖然我們持續改進 Security Copilot，AI 系統仍可能犯錯。 產生的輸出可能不準確、不完整、有偏見，或因輸入不明確或底層模型的限制而與您的預期目標不完全一致。 使用者應先檢視 Security Copilot 產生的回應，確認其符合期望與需求，然後再採取行動。
注意過度依賴的風險：過度依賴 AI 發生在使用者接受錯誤或不完整的 AI 輸出時，主要是因為 AI 輸出中的錯誤可能難以被察覺。 對資安專業人員而言，過度依賴可能導致錯過威脅、錯誤事件結論，或基於錯誤建議而改變政策。 Security Copilot 包含 AI 揭露並引用來源資料以協助降低此風險，但使用者仍應確認回應的準確性。 使用者可以查看代理節點地圖，該映射提供代理工作流程中執行的步驟高階視圖。
在敏感領域部署或設計代理 AI 時，請謹慎：使用者在配置及部署代理 AI 系統時，必須實施適當的人工監督，尤其是在代理行動不可逆或影響深遠的領域。 在創建自主代理 AI 時，應採取額外預防措施，這條規則由 Microsoft Enterprise AI 服務行為準則所描述。
部署者應：
謹慎配置 RBAC 與代理權限：管理員負責為使用者與代理者配置基於角色的存取控制。 權限應該遵循最小權限原則。 代理人員應僅被授權存取其指定任務所需的資料與行動。
監控使用情況並檢視活動：管理員 (擁有者) 可利用Security Copilot使用監控儀表板檢視會話層級資料，如使用量隨時間、會話發起者及會話中使用的外掛。 這種可視性幫助組織了解 Security Copilot 在提示詞、提示簿與代理程式中的應用。 欲了解更多資訊，請參閱「管理使用」。
管理資料共享設定：業主可隨時設定客戶資料共享偏好，並必須依照組織的隱私與合規要求檢視並更新這些設定。 欲了解更多資訊，請參閱 Microsoft Security Copilot 中的隱私與資料安全。
教育使用者了解能力與限制：有效且負責任地使用 Security Copilot 需要使用者了解系統能做什麼、不能做什麼。 部署者應提供培訓與指導，協助使用者有效與 Security Copilot 互動，包括在採取行動前驗證 AI 產生輸出的重要性。
了解更多關於 Security Copilot 代理的資訊
欲了解更多關於負責任使用 Microsoft Security Copilot 的資訊，請參閱以下文件：