人工智慧系統現已成為企業核心技術資產的一部分,包括人工智慧應用程式、代理、模型,以及它們所使用的資料與服務。 隨著組織採用 AI,這些系統引入了新的存取路徑、依賴性與風險條件,必須作為端對端安全架構的一部分加以治理。
在 Microsoft 安全性 採用框架(SAF)中,AI 支柱將 零信任 原則應用於 AI 工作負載與操作:明確驗證、使用最小權限,並假設被入侵。 此指引協助您保護 AI 能力,同時支持業務成果、營運可靠性與持續改進。
這個技術支柱涵蓋的內容
此支柱著重於保護 AI 系統作為作業負載及關鍵業務資源,包括:
- 人工智慧應用與系統
- AI 代理與代理執行時
- 人工智慧與代理人身份
- 模型、提示詞與情境
- 用於奠基、訓練與推論的資料
- 工具、外掛、連接器與外部相依
- 代理對代理及代理對服務的通訊
- AI 基礎設施與主機環境
AI 的核心 零信任 控制領域
利用此支柱規劃並實施這些領域的控制措施,並與 AI 安全工作坊的實施領域相呼應:
-
繪製並評估 AI 風險
- 探索並盤點 AI 應用程式、代理人與服務。
- 優先排序風險,建立責任歸屬、治理及可接受使用的護欄。
- 持續監控風險訊號,並隨著使用情況調整優先順序。
-
註冊代理並執行生命週期治理
- 將代理程式登記在集中式清單中。
- 依用途、業務關鍵性及風險分類代理程式。
- 定義所有權、發佈、認證及生命週期控制。
-
安全 AI 認證與存取
- 要求使用者、服務及代理者進行強式驗證與授權。
- 對代理行動套用最小權限和委派權限。
- 在存取前及存取過程中,持續評估身份、裝置及風險訊號。
-
安全的 AI 網路與服務存取
- 控制如何透過網路路徑與服務邊界存取 AI 服務。
- 應用分段、過濾與檢查來處理 AI 互動。
- 減少提示詞注入及未經授權存取路徑的風險。
-
安全的 AI 資料存取與使用
- 分類並保護用於提示、語境、依據資料及輸出的資料。
- 應用資料遺失預防與使用控制,以降低過度分享與外洩風險。
- 執行 AI 資料處理的治理與合規政策。
-
安全地建置及部署代理程式
- 保護 AI 應用程式、API、連接器及工具鏈相依性。
- 在投入正式使用前,驗證信任邊界與執行時控制。
- 對 AI 系統實施安全的開發、測試與發布控制。
-
偵測並回應 AI
- 監控 AI 活動、提示流程、存取模式及工具使用情況。
- 偵測濫用、異常行為及政策違規。
- 將 AI 遙測整合進事件偵測、調查及應變工作流程中。
這個支柱如何與SAF連結起來
AI 安全依賴其他 SAF 技術與安全領域: