快速入門：仲裁 Azure AI Studio 中具有內容安全的文字和影像

重要

本文所述的部分功能可能僅適用於預覽版。 此預覽版本沒有服務等級協定，不建議將其用於生產工作負載。 可能不支援特定功能，或可能已經限制功能。 如需詳細資訊，請參閱 Microsoft Azure 預覽版增補使用條款。

在本快速入門中，您會使用 Azure AI Studio 中的 Azure AI 內容 保管庫 ty 服務來仲裁文字和影像。 內容安全可在應用程式與服務中偵測使用者產生和 AI 產生的有害內容。

警告

Azure AI Studio 所提供的部分範例內容可能令人反感。 根據預設，範例映像會模糊。 建議使用者斟酌使用。

必要條件

• Azure 訂用帳戶 - 建立免費帳戶
• 擁有 Azure 訂用帳戶之後，在 Azure 入口網站中建立 Content Safety 資源，以取得您的金鑰和端點。 輸入資源的唯一名稱、選取您的訂用帳戶，然後選取資源群組、支援的區域和支援的定價層。 然後選取建立。
• Azure AI Studio 中的 AI Studio 中樞。

設定

1. 登入 Azure AI Studio。
2. 選取您想要使用中的中樞。
3. 在左側導覽功能表上，選取 [ AI 服務]。 選取 [內容 保管庫] 面板。

仲裁文字或影像

選取下列其中一個索引標籤，以開始使用 Azure AI Studio 中的內容 保管庫 ty。

仲裁文字內容

Azure AI Studio 提供讓您快速試用文字仲裁的功能。 中等文字內容功能會考慮各種因素，例如內容類型、平台的原則，以及對使用者的潛在影響。 對範例內容執行仲裁測試。 然後設定篩選條件以進一步微調測試結果。 您也可以使用封鎖清單來新增您想要偵測並採取動作的特定字詞。

1. 在 Azure AI Studio 的 [內容 保管庫 ty] 頁面上，選取 [中度文字內容] 面板。
2. 從下拉功能表中選取您的 AI 服務資源或內容 保管庫 資源名稱。
3. 您可以選擇預先撰寫的文字範例，或在輸入字段中撰寫您自己的範例文字。
4. 或者，在 [ 設定篩選 ] 索引卷標中設定內容篩選。使用滑桿來判斷模型應該拒絕每個類別中的嚴重性層級。 服務仍會傳回所有偵測到的傷害類別，以及每個 （0-保管庫、2-Low、4-Medium、6-High）的嚴重性等級，但 [允許/封鎖的結果] 取決於您設定篩選的方式。
5. 或者，使用 [使用封鎖清單] 索引標籤來設定封鎖清單 。您可以選擇您已建立的封鎖清單，或在這裡建立新的封鎖清單。 使用 [ 編輯] 按鈕來新增和移除字詞。 您可以在相同的篩選中堆疊多個封鎖清單。
6. 當您的篩選準備就緒時，請選取 [ 執行測試]。

仲裁影像內容

Azure AI Studio 提供讓您快速試用影像仲裁的功能。 中等影像內容功能會考慮各種因素，例如內容類型、平台的原則，以及對使用者的潛在影響。 對範例內容執行仲裁測試。 設定篩選條件以進一步微調測試結果。

1. 在 Azure AI Studio 的 [內容 保管庫 ty] 頁面上，選取 [中度影像內容] 面板。
2. 從下拉功能表中選取您的 AI 服務資源或內容 保管庫 ty 資源名稱。
3. 您可以使用範例影像或上傳您自己的影像。 映像提交的大小上限為 4 MB，且映像尺寸必須介於 50 x 50 像素和 2,048 x 2,048 像素之間。 映像可以是 JPEG、PNG、GIF、BMP、TIFF 或 WEBP 格式。 您可以選擇模糊您使用的影像。
4. 或者，在 [ 設定篩選 ] 索引卷標中設定內容篩選。使用滑桿來判斷模型應該拒絕每個類別中的嚴重性層級。 服務仍會傳回偵測到的所有傷害類別，以及每個 （0-保管庫、2-Low、4-Medium、6-High）的嚴重性等級，但 [允許/封鎖的結果] 取決於您設定篩選的方式。
5. 當您的篩選準備就緒時，請選取 [ 執行測試]。

檢視和匯出程式碼

您可以使用中度文字內容和中度影像內容案例頁面頂端的 [檢視程序代碼] 按鈕來檢視和複製範例程式代碼，其中包括嚴重性篩選、封鎖清單和仲裁函式的設定。 接著，您可以在自己的應用程式中部署程序代碼。

清除資源

為了避免產生不必要的 Azure 費用，如果您不再需要在本快速入門中建立的資源，則應該加以刪除。 若要管理資源，您可以使用 Azure 入口網站。

下一步

• 在 Azure AI Studio 中建立專案
• 深入了解 Azure AI Studio 中的內容篩選