AI 放大現有的安全風險，並在身份、資料、應用程式及使用者互動中引入新的風險與考量。 這些風險可以透過 零信任 原則來應對。
保護 AI 不僅僅是保護底層的 AI 模型與服務。 我們也需要確保 AI 系統的存取、使用與治理符合 零信任 原則。
AI 支柱指引著重於建立對 AI 使用情況的可視化、強化身份與存取控制、保護跨提示與輸出的資料、保障代理開發與執行環境，並將 AI 訊號整合進安全作業。
工作坊實施
AI 工作坊涵蓋表中總結的實施領域。
| Area | 詳細資料 |
|---|---|
| 繪製並評估 AI 風險 | 發掘並盤點組織內的 AI 代理、應用程式與服務。 利用集中式安全洞察評估 AI 風險，檢視庫存並排序優先順序，並建立治理、所有權及可接受使用政策。 針對不斷演變的 AI 風險實施持續監控與補救措施。 |
| 登記代理人 | 將 AI 代理登記於集中登記系統，以維持可視性與控制。 根據目的與風險分類與組織代理人，分配所有權與責任，並定義出版、認證與生命週期 |
| 安全 AI 認證與存取 | 對 AI 系統與代理執行基於身份的存取控制。 應用條件存取、風險導向與屬性導向政策，以及身份治理流程，確保只有授權使用者與服務能與 AI 資源互動。 |
| 安全的 AI 網路存取 | 控制 AI 服務如何在網路中被存取。 將流量導向安全存取控制，套用過濾與檢查政策來處理 AI 互動，並防範如即時注入及未經授權存取路徑等風險。 |
| 安全 AI 資料存取 | 保護用於 AI 提示、接地及輸出的敏感資料。 套用分類、標籤與資料資料處理政策，控制連接資料來源的存取，並監控 AI 互動中的過度分享與資料外洩風險。 |
| 安全建置代理 | 透過執行認證、授權及資料處理標準，保障 AI 代理的開發與部署。 整合內容安全控管，要求進行驗證與紅隊演練，並建立安全發布與部署流程。 |
| 針對 AI 進行偵測與回應 | 監控 AI 活動，偵測濫用、異常及即時攻擊等威脅。 將 AI 訊號整合進安全作業，支援調查與應變工作流程，並持續提升偵測與應變能力。 |
下一步
開始 AI 工作坊。