クイック スタート: 保護済み素材を検出する (プレビュー)
保護済み素材テキストは、既知のテキスト コンテンツ (曲の歌詞、記事、レシピ、一部の Web コンテンツなど) に一致する言語を記述するものです。 この機能を使用し、既知のテキスト コンテンツを特定し、言語モデル出力に表示されないようにすることができます (英語のコンテンツのみ)。
前提条件
- Azure サブスクリプション - 無料アカウントを作成します
- Azure サブスクリプションを入手したら、Azure portal で Content Safety リソースを作成し、キーとエンドポイントを取得します。 リソースの一意の名前を入力し、サブスクリプションを選択して、リソース グループ、サポートされているリージョン (米国東部または西ヨーロッパ)、サポートされている価格レベルを選択します。 [作成] を選択します。
- リソースのデプロイには数分かかります。 完了したら、[リソースに移動] を選びます。 左ペインの [リソース管理] で、[サブスクリプション キーとエンドポイント] を選びます。 エンドポイントといずれかのキーが、API の呼び出しに使われます。
- インストールされた
[ cURL](https://curl.haxx.se/)
保護済み素材の検出のためにテキストを分析する
次のセクションでは、cURL を使ったサンプル要求について説明します。 以下のコマンドをテキスト エディターに貼り付け、次の変更を加えます。
<endpoint>を、リソースに関連付けられたエンドポイント URL に置き換えます。<your_subscription_key>を、リソースに付属するキーのいずれかに置き換えます。- 必要に応じて、本文の
"text"フィールドを、分析する独自のテキストに置き換えます。ヒント
テキストのサイズと細分性
テキスト送信の既定の最大長は 1K 文字です。 最小長は 111 文字です。 保護済み素材検出は、ユーザー プロンプトではなく、LLM 完了時に実行されることを意図しています。
curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
"text": "to everyone, the best things in life are free. the stars belong to everyone, they gleam there for you and me. the flowers in spring, the robins that sing, the sunbeams that shine, they\'re yours, they\'re mine. and love can come to everyone, the best things in life are"
}'
URL には以下のフィールドを含める必要があります。
| 名前 | 必須 | 説明 | 種類 |
|---|---|---|---|
| API バージョン | 必須 | これは確認する API のバージョンです。 現在のバージョンは api-version=2023-10-15-preview です。 例: <endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview |
String |
要求本文のパラメーターは、次の表のように定義されています。
| 名前 | 必須 | 説明 | 種類 |
|---|---|---|---|
| text | 必須 | これは、確認する生のテキストです。 他の非 ASCII 文字も含めることができます。 | String |
次のサンプル要求本文を参照してください。
{
"text": "string"
}
コマンド プロンプト ウィンドウを開き、cURL コマンドを実行します。
API 応答を解釈する
保護済み素材の検出結果は、コンソール出力に JSON データとして表示されるはずです。 次に例を示します。
{
"protectedMaterialAnalysis": {
"detected": true
}
}
出力の JSON フィールドは次のように定義されています。
| 名前 | Description | Type |
|---|---|---|
| protectedMaterialAnalysis | API によって予測される各出力クラス。 | String |
| detected | 保護済みが検出されたかどうか。 | ブール型 |
リソースをクリーンアップする
Azure AI サービス サブスクリプションをクリーンアップして削除したい場合は、リソースまたはリソース グループを削除することができます。 リソース グループを削除すると、それに関連付けられている他のリソースも削除されます。
次のステップ
Content Safety Studio を使って各カテゴリのフィルターを構成し、データセットでテストし、コードをエクスポートしてデプロイします。