クイックスタート: 保護済み素材を検出する (プレビュー)

[アーティクル]
03/15/2024

保護済み素材テキストは、既知のテキストコンテンツ (曲の歌詞、記事、レシピ、一部の Web コンテンツなど) に一致する言語を記述するものです。この機能を使用し、既知のテキストコンテンツを特定し、言語モデル出力に表示されないようにすることができます (英語のコンテンツのみ)。

前提条件

Azure サブスクリプション - 無料アカウントを作成します
Azure サブスクリプションを入手したら、Azure portal で Content Safety リソースを作成し、キーとエンドポイントを取得します。リソースの一意の名前を入力し、サブスクリプションを選択して、リソースグループ、サポートされているリージョン (米国東部または西ヨーロッパ)、サポートされている価格レベルを選択します。 [作成] を選択します。
- リソースのデプロイには数分かかります。完了したら、[リソースに移動] を選びます。左ペインの [リソース管理] で、[サブスクリプションキーとエンドポイント] を選びます。エンドポイントといずれかのキーが、API の呼び出しに使われます。
インストールされた [cURL](https://curl.haxx.se/)

保護済み素材の検出のためにテキストを分析する

次のセクションでは、cURL を使ったサンプル要求について説明します。以下のコマンドをテキストエディターに貼り付け、次の変更を加えます。

<endpoint> を、リソースに関連付けられたエンドポイント URL に置き換えます。
<your_subscription_key> を、リソースに付属するキーのいずれかに置き換えます。
必要に応じて、本文の "text" フィールドを、分析する独自のテキストに置き換えます。

ヒント

テキストのサイズと細分性

テキスト送信の既定の最大長は 1K 文字です。最小長は 111 文字です。保護済み素材検出は、ユーザープロンプトではなく、LLM 完了時に実行されることを意図しています。

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "to everyone, the best things in life are free. the stars belong to everyone, they gleam there for you and me. the flowers in spring, the robins that sing, the sunbeams that shine, they\'re yours, they\'re mine. and love can come to everyone, the best things in life are"
}'

URL には以下のフィールドを含める必要があります。

名前	必須	説明	種類
API バージョン	必須	これは確認する API のバージョンです。現在のバージョンは api-version=2023-10-15-preview です。例: `<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview`	String

要求本文のパラメーターは、次の表のように定義されています。

名前	必須	説明	種類
text	必須	これは、確認する生のテキストです。他の非 ASCII 文字も含めることができます。	String

次のサンプル要求本文を参照してください。

{
  "text": "string"
}

コマンドプロンプトウィンドウを開き、cURL コマンドを実行します。

API 応答を解釈する

保護済み素材の検出結果は、コンソール出力に JSON データとして表示されるはずです。次に例を示します。

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

出力の JSON フィールドは次のように定義されています。

名前	Description	Type
protectedMaterialAnalysis	API によって予測される各出力クラス。	String
detected	保護済みが検出されたかどうか。	ブール型

リソースをクリーンアップする

Azure AI サービスサブスクリプションをクリーンアップして削除したい場合は、リソースまたはリソースグループを削除することができます。リソースグループを削除すると、それに関連付けられている他のリソースも削除されます。

次のステップ

Content Safety Studio を使って各カテゴリのフィルターを構成し、データセットでテストし、コードをエクスポートしてデプロイします。

Content Safety Studio のクイックスタート

クイック スタート: 保護済み素材を検出する (プレビュー)