以 零信任 保護 AI

人工智慧系統現已成為企業核心技術資產的一部分,包括人工智慧應用程式、代理、模型,以及它們所使用的資料與服務。 隨著組織採用 AI,這些系統引入了新的存取路徑、依賴性與風險條件,必須作為端對端安全架構的一部分加以治理。

在 Microsoft 安全性 採用框架(SAF)中,AI 支柱將 零信任 原則應用於 AI 工作負載與操作:明確驗證、使用最小權限,並假設被入侵。 此指引協助您保護 AI 能力,同時支持業務成果、營運可靠性與持續改進。

這個技術支柱涵蓋的內容

此支柱著重於保護 AI 系統作為作業負載及關鍵業務資源,包括:

  • 人工智慧應用與系統
  • AI 代理與代理執行時
  • 人工智慧與代理人身份
  • 模型、提示詞與情境
  • 用於奠基、訓練與推論的資料
  • 工具、外掛、連接器與外部相依
  • 代理對代理及代理對服務的通訊
  • AI 基礎設施與主機環境

AI 的核心 零信任 控制領域

利用此支柱規劃並實施這些領域的控制措施,並與 AI 安全工作坊的實施領域相呼應:

  1. 繪製並評估 AI 風險
    • 探索並盤點 AI 應用程式、代理人與服務。
    • 優先排序風險,建立責任歸屬、治理及可接受使用的護欄。
    • 持續監控風險訊號,並隨著使用情況調整優先順序。
  2. 註冊代理並執行生命週期治理
    • 將代理程式登記在集中式清單中。
    • 依用途、業務關鍵性及風險分類代理程式。
    • 定義所有權、發佈、認證及生命週期控制。
  3. 安全 AI 認證與存取
    • 要求使用者、服務及代理者進行強式驗證與授權。
    • 對代理行動套用最小權限和委派權限。
    • 在存取前及存取過程中,持續評估身份、裝置及風險訊號。
  4. 安全的 AI 網路與服務存取
    • 控制如何透過網路路徑與服務邊界存取 AI 服務。
    • 應用分段、過濾與檢查來處理 AI 互動。
    • 減少提示詞注入及未經授權存取路徑的風險。
  5. 安全的 AI 資料存取與使用
    • 分類並保護用於提示、語境、依據資料及輸出的資料。
    • 應用資料遺失預防與使用控制,以降低過度分享與外洩風險。
    • 執行 AI 資料處理的治理與合規政策。
  6. 安全地建置及部署代理程式
    • 保護 AI 應用程式、API、連接器及工具鏈相依性。
    • 在投入正式使用前,驗證信任邊界與執行時控制。
    • 對 AI 系統實施安全的開發、測試與發布控制。
  7. 偵測並回應 AI
    • 監控 AI 活動、提示流程、存取模式及工具使用情況。
    • 偵測濫用、異常行為及政策違規。
    • 將 AI 遙測整合進事件偵測、調查及應變工作流程中。

這個支柱如何與SAF連結起來

AI 安全依賴其他 SAF 技術與安全領域:

工作坊與實施指導