透過改善從產生 AI 模型的內容品質,增加對 AI 產生內容來源的透明度的需求。 來自 Azure AI Foundry 模型的 Azure OpenAI 所產生的所有 AI 影像都包含內容認證,這是一種防篡改的方式,用於揭露內容的來源和歷程記錄。 內容認證是以聯合開發基金會項目 的內容證明和真實性聯盟的開放式技術規格為基礎。
什麼是內容憑證?
Azure OpenAI 中的內容認證為客戶提供映像產生模型所產生的映像來源相關信息。 這些資訊會以附加至影像的資訊清單方式呈現。 指令清單會以密碼編譯方式簽署,該憑證會追蹤回 Azure OpenAI。
資訊清單包含數個主要資訊片段:
欄位名稱 | 欄位內容 |
---|---|
"description" |
此欄位在所有生成的影像中都顯示為"AI Generated Image" ,證實影像具備 AI 生成的特性。 |
"softwareAgent" |
此欄位針對 Azure OpenAI 中所有由 DALL-E 數列模型或 GPT-image-1 模型所產生的影像,具有 "Azure OpenAI DALL-E" 或 "Azure OpenAI ImageGen" 之值。 |
"when" |
建立內容憑證的時間戳記。 |
Azure OpenAI 中的內容認證可協助人們瞭解視覺內容是否由人工智慧生成。 如需如何使用 Azure OpenAI 映射產生模型負責建置解決方案的詳細資訊,請流覽 Azure OpenAI 透明度附注。
如何? 今天在我的解決方案中使用內容認證嗎?
客戶可以使用下列方式的內容認證:
確保其 AI 產生的影像包含內容認證,不需要額外的設定。 內容認證會自動套用到在 Azure OpenAI 中由 DALL·E 和 GPT-image-1 所產生的所有影像。
目前有兩種建議方式來確認影像是否具有內容憑證,以檢查由 Azure OpenAI 模型生成的影像憑證:
內容認證驗證網頁 (contentcredentials.org/verify):這是一種工具,可讓使用者檢查內容的內容認證。 如果映像是由 Azure OpenAI 映像產生模型所產生,此工具會顯示其內容認證是由 Microsoft Corporation 發行,以及發行的日期和時間。
此頁面會顯示 Azure OpenAI DALL-E 所產生的影像具有 Microsoft 所發行的內容憑證。
內容真實性計劃 (CAI) 開放原始碼工具:CAI 提供多個開放原始碼工具,可驗證及顯示 C2PA 內容認證。 尋找適合您應用程式的工具,並 從這裡開始。