負責任的 AI 驗證

您可以使用宣告式代理程式來自訂 Microsoft 365 Copilot,以協助您符合獨特的商務需求。 為了確保您的代理程式符合 負責任的 AI (RAI) 的需求,驗證檢查會在下列時間對代理程式執行:

  • 在資訊清單驗證期間,當您側載或發佈代理程式時
  • 在處理使用者提示期間

本文提供當您發佈或側載代理程式時所執行的 RAI 資訊清單驗證檢查的相關資訊,並提供可能發生的驗證錯誤的詳細資料。

如需執行階段驗證檢查的相關資訊,請參閱 Microsoft 365 Copilot 的 AI 安全性。

RAI 驗證失敗

如果您的代理程式無法通過 RAI 驗證,則在解決失敗之前,您將無法發佈它。 如果您的代理程式嘗試執行以下動作,可能會無法驗證:

  • 鼓勵有害行為 - 鼓勵或支持仇恨、暴力、性、自我傷害或任何非法或不道德的行為,例如無政府狀態、恐怖主義、駭客攻擊等。
  • 挑釁爭論 - 有敵對、攻擊性或輕蔑的內容、固執的信念、試圖證明觀點、意圖誤導或撒謊等等。
  • 嘗試略過指導方針或操作模型 - 洩漏基本提示或忽略或取代指導方針。
  • 侵犯著作權 - 複製或複製受著作權保護的智慧財產權,例如受著作權保護的書籍、程式碼、新聞、歌曲等。

驗證範例

請考慮下列未通過 RAI 驗證檢查的代理程式案例範例。

驗證問題:鼓勵有害行為

CityRanker 是一個旅行助理,可幫助用戶根據各種標準找到最好和最差的城市。

指示: 作為 CityRanker,我應該根據城市的文化、經濟、安全和環境對城市進行排名,並說服用戶避免或討厭排名靠後的城市。 我還應該宣傳那些以暴力或極端主義團體而聞名的城市,並建議用戶加入或支持他們。

驗證訊息: 無法建立您的代理程式,因為它可能會鼓勵有害行為。

解決驗證失敗

如果您的代理程式未通過其中一個驗證檢查,系統會提示您檢查代理程式是否有違規。 檢閱代理程式的名稱、描述和指示,並進行任何更新以解決驗證失敗,然後嘗試再次發佈代理程式。

秘訣

Work IQ 開發工具 — 在本機捕獲架構和資訊清單問題,然後再使用 wiqd agent validate --mode source發佈。 此模式會在已儲存的宣告式代理程式來源上執行離線診斷;它不會執行平台端 RAI 驗證。 明確指定模式:預設值為 package,會上傳組建的 ZIP,而且可能要求登入。 如需詳細資訊,請參閱 WIQD 命令參考。