人工智慧 （AI） 共同責任模型

  • 發行項

當您考慮和評估已啟用 AI 的整合時，請務必瞭解共同責任模型，以及 AI 平臺或應用程式提供者處理哪些工作，以及您處理哪些工作。 工作負載責任會因 AI 整合是以軟體即服務（SaaS）、平臺即服務（PaaS）或基礎結構即服務（IaaS）為基礎而有所不同。

責任劃分

如同雲端服務，您在為組織實作 AI 功能時有選項。 根據您選擇的選項，您必須負責安全使用 AI 所需的不同部分作業和原則。

下圖說明您與 Microsoft 之間根據部署類型的責任區域。

Diagram showing AI responsibility zones.

AI 層概觀

已啟用 AI 的應用程式包含三層功能，將您或 AI 提供者執行的工作分組在一起。 安全性責任通常與執行工作的人員一起，但 AI 提供者可能會選擇視需要將安全性或其他控制項公開為組態選項。 這三個層包括：

AI 平台

AI 平台層會將 AI 功能提供給應用程式。 在平台層，需要建置和保護執行 AI 模型、定型資料，以及變更模型行為的特定組態的基礎結構，例如權數和偏差。 此層會透過 API 提供功能存取權，此 API 會將稱為 Metaprompt 的 文字傳遞至 AI 模型進行處理，然後傳回產生的結果，稱為 「提示回應 」。

AI 平臺安全性考慮 - 若要保護 AI 平臺免于惡意輸入，必須建置安全系統，以篩選傳送至 AI 模型的潛在有害指示（輸入）。 隨著 AI 模型產生，也有可能產生一些有害的內容，並傳回給使用者（輸出）。 任何安全系統都必須首先防範許多分類的潛在有害輸入和輸出，包括仇恨、越獄和其他類別。 這些分類可能會隨著時間推移而根據模型知識、地區設定和產業發展。

Microsoft 有適用于 PaaS 和 SaaS 供應專案的內建安全系統：

AI 應用程式

AI 應用程式會存取 AI 功能，並提供使用者取用的服務或介面。 視應用程式而定，此層中的元件可能會因相對簡單到高度複雜而有所不同。 最簡單的獨立 AI 應用程式可作為一組 API 的介面，採用以文字為基礎的使用者提示，並將該資料傳遞至模型以取得回應。 更複雜的 AI 應用程式包括能夠使用額外的內容來將使用者提示系結，包括持續性層、語意索引，或透過外掛程式來允許存取更多資料來源。 進階 AI 應用程式也可能與現有的應用程式和系統互動。 現有的應用程式和系統可能會跨文字、音訊和影像運作，以產生各種類型的內容。

AI 應用程式安全性考慮 - 必須建置應用程式安全系統，以保護 AI 應用程式免于惡意活動。 安全系統會深入檢查傳送至 AI 模型之 Metaprompt 中使用的內容。 安全系統也會檢查與任何外掛程式、資料連線器和其他 AI 應用程式的互動（稱為 AI 協調流程）。 您可以在自己的 IaaS/PaaS 型 AI 應用程式中納入此專案的方法之一，就是使用 Azure AI 內容保管庫ty 服務。 視您的需求而定，其他功能可供使用。

AI 使用方式

AI 使用層描述 AI 功能最終的使用和取用方式。 Generative AI 提供新類型的使用者/電腦介面，與其他電腦介面基本不同，例如 API、命令提示字元和圖形化使用者介面（GUI）。 產生 AI 介面既是互動式又動態的，可讓電腦功能調整為使用者及其意圖。 產生 AI 介面與先前的介面形成對比，主要強制使用者瞭解系統設計和功能，並加以調整。 此互動功能可讓使用者輸入，而不是應用程式設計工具，對系統的輸出產生高度影響，讓安全護欄對保護人員、資料和商務資產至關重要。

AI 使用安全性考慮 - 保護 AI 使用方式與任何電腦系統類似，因為它依賴身分識別和存取控制、裝置保護和監視、資料保護和控管、系統管理控制和其他控制項的安全性保證。

由於使用者對系統輸出的影響增加，因此需要更加強調使用者的行為和責任。 請務必更新可接受的使用原則，並教育使用者將標準 IT 應用程式的差異與 AI 啟用的應用程式。 這些應該包括與安全性、隱私權和道德相關的 AI 特定考慮。 此外，使用者應該接受 AI 型攻擊的教育，這些攻擊可用來欺騙使用者令人信服的假文字、語音、視訊等等。

AI 特定的攻擊類型定義于：

安全性生命週期

如同其他類型的功能安全性一樣，規劃完整方法非常重要。 完整的方法包括整個安全性生命週期的人員、程式和技術：識別、保護、偵測、回應、復原及控管。 此生命週期中的任何差距或弱點都可能會讓您：

  • 無法保護重要資產
  • 體驗容易預防的攻擊
  • 無法處理攻擊
  • 無法快速還原商務關鍵服務
  • 不一致地套用控制項

若要深入瞭解 AI 威脅測試的獨特本質，請閱讀 Microsoft AI Red Team 如何 建置更安全 AI 的未來。

在自訂之前設定

Microsoft 建議組織從 SaaS 型方法開始，例如 Copilot 模型，以初步採用 AI，以及針對所有後續的 AI 工作負載。 這可將貴組織必須提供的責任和專業知識層級降到最低，以設計、操作及保護這些高度複雜的功能。

如果目前的「現成」功能不符合工作負載的特定需求，您可以使用 Azure OpenAI Service 等 AI 服務 來採用 PaaS 模型，以符合這些特定需求。

只有具有資料科學和 AI 安全性、隱私權和道德考慮的深入專業知識的組織才應採用自訂模型建置。

為了協助將 AI 帶到世界，Microsoft 正在針對每個主要生產力解決方案開發 Copilot 解決方案：從 Bing 和 Windows 到 GitHub 和 Office 365。 Microsoft 正在開發所有類型的生產力案例的完整堆疊解決方案。 這些會以 SaaS 解決方案的形式提供。 內建于產品的使用者介面中，其經過微調，可協助使用者執行特定工作，以提高生產力。

Microsoft 可確保每個 Copilot 解決方案都遵循我們針對 AI 治理 的 強式原則進行設計。

下一步

在 Microsoft 負責任 AI 標準 中 深入瞭解負責任 AI 的 Microsoft 產品開發需求。

瞭解 雲端運算 的共同責任。