人工智慧 (AI) 共同責任模型

當您考量並評估啟用 AI 的整合時，請務必了解共同責任模型，以及 AI 平台或應用程式提供者和您各自所應負責處理的工作。 工作負載的責任會有所不同，取決於 AI 整合是否裝載於軟體即服務 (SaaS)、平台即服務 (PaaS) 或基礎結構即服務 (IaaS)。

責任劃分

如同雲端服務，您在為組織實作 AI 功能時有選項。 根據您選擇的選項，您必須負責安全使用 AI 所需的不同部分作業和原則。

下圖根據部署類型，說明您與 Microsoft 之間的責任區。

AI 層概觀

已啟用 AI 的應用程式包含三層功能，將您或 AI 提供者執行的工作分組在一起。 安全性責任通常與執行工作的人員一起，但 AI 提供者可能會選擇視需要將安全性或其他控制項對您公開為組態選項。 這三個層包括：

AI 平台

AI 平台層提供 AI 功能給應用程式。 在平台層，需要建置和保護執行 AI 模型、訓練資料，以及變更模型行為的特定組態的基礎結構，例如權數和偏差。 此層會透過 API 提供功能存取權，此 API 會將稱為中繼提示的文字傳遞至 AI 模型進行處理，然後傳回產生的結果，稱為提示-回應。

AI 平台安全性考慮 - 若要保護 AI 平台免於惡意輸入，必須建置安全系統，以篩選傳送至 AI 模型的潛在有害指示 (輸入)。 由於 AI 模型為生成式，也有可能產生一些有害的內容，並傳回給使用者 (輸出)。 任何安全系統都必須首先防範許多分類的潛在有害輸入和輸出，包括仇恨、越獄等等。 這些分類可能會隨著時間而根據模型知識、地區設定和產業演進。

Microsoft 有適用於 PaaS 和 SaaS 供應項目的內建安全系統：

• PaaS - Azure OpenAI 服務
• SaaS - Microsoft Security Copilot

AI 應用程式

AI 應用程式會存取 AI 功能，並提供使用者取用的服務或介面。 視應用程式而定，此層中的元件可能會從相對簡單變化為高度複雜。 最簡單的獨立 AI 應用程式可作為一組 API 的介面，採用以文字為基礎的使用者提示，並將該資料傳遞至模型以作為回應。 更複雜的 AI 應用程式包括為使用者提示提供額外內容的能力，包括持續性層、語意索引，或透過外掛程式來允許存取更多資料來源。 進階 AI 應用程式也可能與現有的應用程式和系統互動。 現有的應用程式和系統可能會跨文字、音訊和影像運作，以產生各種類型的內容。

AI 應用程式安全性考量 - 必須建置應用程式安全系統，以防止 AI 應用程式遭受惡意活動。 安全系統會深入檢查傳送至 AI 模型之中繼提示中使用的內容。 安全系統也會檢查與任何外掛程式、資料連接器和其他 AI 應用程式的互動 (稱為 AI 協調流程)。 您可以在自己的 IaaS/PaaS 型 AI 應用程式中納入這項功能的方法之一，就是使用 Azure AI 內容安全性服務。 視您的需求而定，還有其他功能可供使用。

AI 使用方式

AI 使用方式層描述 AI 功能最終的使用和取用方式。 生成式 AI 提供新類型的使用者/電腦介面，與 API、命令提示字元和圖形使用者介面 (GUI) 等其他電腦介面基本不同。 生成式 AI 介面既是互動式也是動態的，可讓電腦功能依使用者及其意圖進行調整。 生成式 AI 介面與先前的介面形成對比，主要強制使用者了解系統設計和功能，並針對其進行調整。 此互動性允許使用者輸入 (而不是應用程式設計人員)，對系統輸出產生高度影響，從而使安全護欄對於保護人員、資料和業務資產至關重要。

AI 使用方式安全性考量 - 保護 AI 使用方式與任何電腦系統類似，因為其仰賴身分識別和存取控制、裝置保護和監視、資料保護與控管、系統管理控制和其他控制項的安全性保證。

由於使用者對系統輸出的影響增加，因此需要更加強調使用者的行為和責任。 請務必更新可接受的使用原則，並使使用者了解標準 IT 應用程式與啟用 AI 的應用程式之間的差異。 這些應該包括關於安全性、隱私權和道德的 AI 特定考量。 此外，使用者應該了解 AI 型攻擊，這些攻擊會利用令人信服的假文字、語音、視訊等來欺騙使用者。

AI 特定攻擊類型定義於：

• MICROSOFT 安全回應中心 (MSRC) AI 系統弱點嚴重性分類
• 人工智慧系統 (ATLAS) 的 MITRE 對抗威脅環境
• OWASP 大型語言模型 (LLM) 應用程式前 10 名
• OWASP Machine Learning (ML) 安全性前 10 名
• NIST AI 風險管理架構

安全性生命週期

如同其他類型的功能安全性一樣，規劃完整方法非常重要。 完整的方法包括整個安全性生命週期的人員、程序和技術：識別、保護、偵測、回應、復原及控管。 此生命週期中的任何差距或弱點都可能會讓您：

• 無法保護重要資產
• 遇到能輕易預防的攻擊
• 無法處理攻擊
• 無法快速還原業務關鍵服務
• 不一致地套用控制項

若要深入了解 AI 威脅測試的獨特本質，請閱讀 Microsoft AI Red Team 如何建置更安全的 AI 未來。

在自訂之前設定

Microsoft 建議組織從 SaaS 型方法開始，例如 Copilot 模型，以初步採用 AI 及針對所有後續的 AI 工作負載。 如此一來，貴組織只需將必須提供的責任和專業知識層級降到最低，就能設計、操作及保護這些高度複雜的功能。

如果目前的「現成」功能不符合工作負載的特定需求，您可以使用 AI 服務來採用 PaaS 模型，例如 Azure OpenAI 服務，以符合這些特定需求。

只有具有資料科學和 AI 安全性、隱私權和道德考量的深入專業知識的組織才應採用自訂模型建置。

為了協助將 AI 帶到世界，Microsoft 正在針對每個主要生產力解決方案開發 Copilot 解決方案：從 Bing 和 Windows 到 GitHub 和 Office 365。 Microsoft 正在開發適用於所有類型的生產力案例的完整堆疊解決方案。 這些會以 SaaS 解決方案提供。 內建於產品的使用者介面中，其經過微調，可協助使用者執行特定工作，以提高生產力。

Microsoft 確保每個 Copilot 解決方案都遵循我們 AI 治理的強式原則進行設計。

下一步

在 Microsoft 負責任 AI 標準中深入了解 Microsoft 對負責任 AI 的產品開發需求。

深入了解雲端運算的共同責任。