在考慮並評估 AI 整合時，了解共同責任模型以及 AI 平台或應用供應商負責哪些任務，以及你負責哪些任務，是非常重要的。 工作負載的責任會依 AI 整合是基於軟體即服務（SaaS）、平台即服務（PaaS）或基礎設施即服務（IaaS）而有所不同。
責任劃分
與雲端服務一樣，當你為組織實施 AI 功能時，存在多種選擇。 根據您選擇的選項，您必須負責安全使用 AI 所需的不同部分作業和原則。
下圖根據部署類型，說明您與 Microsoft 之間的責任區。
AI 層概觀
一個具 AI 功能的應用程式由三層功能組成，將你或 AI 供應商執行的任務歸類在一起。 安全責任通常由執行任務的一方負責，但 AI 供應商可能會根據需要，將安全或其他控制措施作為配置選項公開給你。 這三個層包括：
AI 平台
AI 平台層提供 AI 功能給應用程式。 在平台層，你需要建構並保護運行 AI 模型的基礎設施、訓練資料，以及改變模型行為的特定配置，例如權重和偏差。 此平台層透過 API 提供功能存取。 API 會將稱為 元提示（metaprompt ）的文字傳給 AI 模型進行處理，然後回傳產生的結果，稱為 提示回應（prompt-response）。
AI 平台安全考量 - 為了保護 AI 平台免受惡意輸入，安全系統必須過濾傳送給 AI 模型（輸入）的潛在有害指令。 由於 AI 模型是生成型的，它們也可能產生並回傳一些有害內容給使用者（輸出）。 任何安全系統都必須先防範多種分類的潛在有害輸入與輸出，包括仇恨、越獄及其他危害。 這些傷害分類可能會隨著模型知識、地點及產業而演變。
Microsoft 有適用於 PaaS 和 SaaS 供應項目的內建安全系統：
- PaaS - Azure OpenAI 服務
- SaaS - Microsoft Security Copilot
AI 應用程式
AI 應用程式會存取 AI 功能，並提供使用者取用的服務或介面。 視應用程式而定，此層中的元件可能會從相對簡單變化為高度複雜。 最簡單的獨立 AI 應用程式作為一組 API 的介面，這些 API 會接收基於文字的使用者提示，並將資料傳給模型以取得回應。 較複雜的 AI 應用包括能以額外上下文為使用者提示提供基礎，例如持久化層、語意索引，或是能存取更多資料來源的外掛程式。 進階 AI 應用程式也可能與現有的應用程式和系統互動。 現有的應用程式和系統可能會處理文字、音訊和圖片，產生各種類型的內容。
AI 應用安全考量 - 建立應用安全系統，以保護 AI 應用免受惡意行為侵害。 安全系統會深入檢查傳送給 AI 模型的元提示內容。 安全系統也會檢查與任何外掛、資料連接器及其他 AI 應用的互動（稱為 AI 協調）。 你可以將此功能整合到您自己的 IaaS/PaaS AI 應用中，使用Azure AI 內容安全服務。 視您的需求而定，還有其他功能可供使用。
AI 使用方式
AI 使用方式層描述 AI 功能最終的使用和取用方式。 生成式人工智慧提供了一種全新的使用者/電腦介面，這與 API、命令提示字元和圖形使用者介面（GUI）等其他電腦介面有根本不同。 生成式 AI 介面既是互動式也是動態的，可讓電腦功能依使用者及其意圖進行調整。 生成式 AI 介面與先前的介面形成對比，主要強制使用者了解系統設計和功能，並針對其進行調整。 這種互動性讓使用者的輸入，而非應用程式設計師，能對系統輸出產生高度影響，使安全護欄對於保護人員、資料與企業資產至關重要。
AI 使用安全考量 - 保護 AI 使用類似於保護任何電腦系統，因為它依賴於身份與存取控制、裝置保護與監控、資料保護與治理、管理控制及其他控制措施的安全保障。
使用者行為與問責制需要更多重視，因為使用者對系統輸出的影響力更大。 更新可接受使用政策並教育使用者了解標準 IT 應用與 AI 應用之間的差異至關重要。 可接受使用政策應包含與 AI 相關的安全、隱私與倫理考量。 此外，教育使用者了解攻擊者可能利用的AI攻擊，利用逼真的假文字、語音、影片等來欺騙他們。
以下資源定義了 AI 專屬攻擊類型：
- MICROSOFT 安全回應中心 (MSRC) AI 系統弱點嚴重性分類
- MITRE 人工智慧系統對抗性威脅版圖 (ATLAS)
- OWASP 大型語言模型 (LLM) 應用程式前 10 名
- OWASP 機器學習 (ML) 安全性前 10 名
- NIST AI 風險管理架構
安全性生命週期
如同其他類型的功能安全性一樣，規劃完整方法非常重要。 完整的方法包括整個安全性生命週期的人員、程序和技術：識別、保護、偵測、回應、復原及控管。 這個生命週期中的任何空隙或弱點都可能導致你：
- 無法保護重要資產
- 體驗可預防的攻擊
- 無法應付攻擊
- 無法快速恢復關鍵業務服務
- 不一致地套用控制項
欲了解更多關於 AI 威脅測試獨特性的資訊，請參閱 Microsoft AI 紅隊打造更安全 AI 的未來。
在自訂之前設定
Microsoft 建議組織從 SaaS 基礎的方法開始，例如 Copilot 模型，作為 AI 初期採用及後續所有 AI 工作負載的方案。 這種做法能減少貴組織在設計、操作及保障這些高度複雜能力時必須承擔的責任與專業知識。
如果現有現成功能無法滿足特定工作負載的需求，你可以採用 PaaS 模式，使用 AI 服務，例如 Azure OpenAI 服務，以滿足這些特定需求。
只有在資料科學及人工智慧的安全、隱私與倫理考量方面具備深厚專業知識的組織，才應採用客製化模型建置。
為了幫助將 AI 帶到世界，Microsoft 正在為各主要生產力解決方案開發 Copilot 解決方案：從 Bing 和 Windows 到 GitHub 和 Microsoft 365。 Microsoft 正在開發適用於各種生產力情境的全端解決方案。 Microsoft 提供這些功能作為 SaaS 解決方案。 Microsoft將這些功能內建於產品使用者介面，並調整以協助使用者完成特定任務，提升生產力。
Microsoft 依據 Microsoft 強而有力的 AI 治理原則來設計每一個 Copilot 解決方案。
下一步
了解更多關於 Azure AI 安全最佳實務的資訊。
在 Microsoft 負責任 AI 標準中深入了解 Microsoft 對負責任 AI 的產品開發需求。
深入了解雲端運算的共同責任。